Это отсылка к культовой компьютерной игре 90-х. Где Transformer был главным боссом.

Это жалоба на менеджмент Google. Мол, нам не нужны ваши бюджеты, дайте сфокусироваться на коде.

Отсылка к хиту The Beatles. Архитектура нейросетей любовь и внимание - это одно и то же

Пасхалки нет, просто архитектура настолько примитивна, что авторы не верили в её коммерческий успех.