В литературе есть путаница между терминами «внешняя группа» (outgroup) и «корень» (root). Иногда внешней группой (аутгруппой) называют терминальную группу, на которую укореняют филогению, это неправильно. Несмотря на то, что корень может быть частью аутгруппы или в некоторых случаях полностью с ней совпадать, это не одно и то же.
Филогению надо укоренить, чтобы задать вектор эволюционным изменениям. Таксон для этих целей обычно выбирают заранее. Как я уже писала ранее, внешние группы могут служить контекстом для тестирования филогенетического положения внутренней группы или ее монофилии. Таким образом, мы не всегда знаем, как таксоны внешней группы связаны с таксонами внутренней группы. Анализ может показать, что внутренняя группа немонофилетична, и таксоны внешней и внутренней групп могут формировать клады друг с другом. Корню мы сами задаем положение в основании филогении. После укоренения он не может по определению быть внутри какой-то клады.
Как выбрать корень? Обычно на эту роль выбирают таксон, для которого есть убедительные доказательства, что он не может быть сестринской группой какому-либо таксону внутри внутренней группы. При этом, все же, таксон, на который укореняется филогения, не должен быть слишком далек от ингруппы, чтобы избежать избыточных гомоплазий или отсутствующих данных. И то, и другое влияет на поддержки, а иногда даже на топологию.
В морфологических исследованиях у групп, которые слишком далеки друг от друга, может просто не быть тех структур, признаки из которых мы кодируем. Например, если мы исследуем какое-то семейство птиц, и в качестве корня решили использовать ящерицу, то много признаков, которые мы кодируем для птиц (например, признаки для крыльев, клюва, оперения), будут у нее отсутствовать.
В молекулярных исследованиях у далеких групп могут быть избыточные вставки или делеции, которые могут приводить к не самым оптимальным вариантам выравниваний.
Выбор таксона для укоренения зависит от задач исследования. Например, при тестировании монофилии подсемейства внутри семейства, лучше всего укоренить на представителя другого семейства. Если же мы точно знаем, что подсемейство монофилетично и изучаем отношения внутри него, то можно укоренить на представителя ближайшего к нему другого подсемейства.
Надо всегда помнить, что филогения и топология филогении – это не синонимы. Топология зависит от укоренения. Давайте посмотрим, как это происходит. Допустим, у нас задача узнать, какие отношения внутри современных представителей семейства Hominidae. Мы выбираем внутреннюю группу – это все виды внутри изучаемого семейства: человек (Homo sapiens), два вида шимпанзе (Pan troglodytes, Pan paniscus), горилла (Gorilla gorilla) и орангутан (Pongo pygmaeus). В качестве внешней группы мы выбираем еще одну условно человекообразную обезьяну - гиббонов (Gibbons), а также макаку (Macaca mulatta), которая близка к группе, которую составляют вышеперечисленные виды.
Филогения строится неукорененной в любом анализе, и она укореняется уже после анализа.
Таким образом, мы сначала получаем неукоренную филогению, которая выглядит так.
Некоторые программы укореняют дерево по умолчанию по первой терминальной группе в матрице или выравнивании, но всегда можно задать корень вручную.
Самое логичное - это выбрать корнем макаку, потому что это точно не человекообразная обезьяна. Это дерево будет выглядеть вот так.
Но что случится, если мы укореним на другом представителе внешней группы, то есть на гиббоне? Собственно, для целей узнать отношения внутри гоминид – ничего. Однако если бы цель была протестировать отношения внутри Hominoidea, то разница была бы существенной.
А теперь посмотрим, как изменится топология, если мы укореним на представителе внутренней группы. В данном случае – Pan paniscus. Как вы видите, топология изменилась очень сильно, и гоминиды перестали быть монофилетичными.
Во всех приведенных случаях филогения одна и та же, но топология разная. В последнем случае неправильное укоренение может привести к ошибочным выводам относительно нашей цели - протестировать отношения внутри гоминид.
Я специально выбрала наглядный случай, где мы точно знаем филогению, но часто бывает так, что мы работаем с группами, где выбор корня не так очевиден.
Если мы не уверены, на что лучше укоренить, то есть два варианта. (1) Добавить в филогению несколько таксонов – кандидатов на эту роль, и сделать топологии с разным укоренением. (2) Провести несколько отдельных анализов, каждый раз включая новый таксон в качестве корня, и таким образом протестировать, меняется ли что-то от этого. Корнем может быть не только отдельная терминальная группа, но и целая клада. Например, в статье Johnson et al. (2018), где исследуется филогения хемиптерных насекомых, укоренили на кладу Palaeoptera, включающей пять терминальных групп.
Johnson, K. P., Dietrich, C. H., Friedrich, F., Beutel, R. G., Wipfler, B., Peters, R. S., ... & Yoshizawa, K. (2018). Phylogenomics and the evolution of hemipteroid insects. _Proceedings of the National Academy of Sciences_, _115_(50), 12775-12780.