Usar somente um autor d plugins externo vai ser sempre mais garantido pq eles tendem a fazer plugins sempre compatíveis com seus outros plugins. Mas é possível misturar sim, só que é sempre bom tomar muito cuidado pq qnt mais vc misturar mais problemas vai gerar. Eu tive problemas de compatibilidade entre plugins do Yanfly e Victor Engine, mas não lembro agora quais foram exatamente (acho que eram plugins de batalha), só sei que o jogo nem abria. Tive problemas de compatibilidade tb entre Yanfly e acho que Galv, o jogo funcionava, mas bugs apareciam pq os plugins tentavam acessar a mesma parte do código e usavam ele de forma diferente.
Acho que algumas atitudes podem ser tomadas para evitar as incompatibilidades. Como por exemplo não usar plugins de autores diferentes para a mesma função, tipo usar tanto um plugin do Yanfly qnt um da Victor Engine dentro do seu sistema de batalha, isso tem grande chance de causar algum problema. Se você usar Victor Engine nas lutas e Yanfly nos menus ou uma combinação nesse estilo (com cada plugin no seu canto), a chance de causar problemas diminui muito, pois os plugins vão mexer em coisas totalmente diferentes.
O ideal é começar o projeto com uma boa noção dos plugins de autores externos que vc vai usar e tb dar uma maneirada pra não usar mtos plugins e nem mtos autores. Tendo um conjunto principal dos plugins externos vale fazer um protótipo pra ver se eles realmente funcionam bem entre si. E sempre que colocar um plugin novo testar bastante pra ver se não da problema.