Архитектор трансформеров Ноам Шазир уходит из Google в OpenAI

Шазир — фигура фундаментального масштаба для современной индустрии. В 2017 году он стал соавтором знаковой работы «Attention Is All You Need», которая легла в основу всех современных языковых моделей. Помимо этого, его авторству принадлежат архитектура Mixture-of-Experts и метод multi-query attention, значительно оптимизировавшие вычислительные затраты при обучении нейросетей.

Его история в Google напоминает маятник. Инженер проработал в компании два десятилетия, но в 2021 году ушел из-за конфликта вокруг чат-бота Meena, который руководство не решилось выпустить в свет. Вернувшись в 2024 году через сделку с Character.AI, он возглавил разработку Gemini, однако теперь вновь сменил сторону, усилив команду главного конкурента Google в лице OpenAI.