3023 подписчика
#odd_facts #OpenAI
Новость дня: подтверждение новых инвестиций в OpenAI от Microsoft. По слухам, речь идет о 10 миллиардах долларов. Помимо любви к большим числам, интерес прессы подогревается лежащими на поверхности выводами. Например, раз Microsoft готов так щедро платить, то уж наверное там понимают, как эти деньги отбивать. Опять же по слухам, ChatGPT (языковая модель в интерфейсе чат-бота) уже в марте будет встроена в поисковик Bing, а потом — в Word, Excel и почту Outlook. Опять же, 10 миллиардов такая сумма, что все практически уверены: OpenAI больше не является независимой компанией и теперь принадлежит Microsoft ( впрочем, это подозревали и ранее). Еще один вывод: следующая нейросеть будет совсем уж гигантской. Дороже всего при создании больших языковых моделей обходятся вычислительные ресурсы, т.е. суперкомпьютеры на которых все обучается. В 2019 Microsoft вложил в OpenAI миллиард и через год появилась GPT-3 (рисующая картиночки Dall-E, умеющая программировать Codex или ChatGPT — это ее производные), причем миллиарда еще и не хватило, пришлось доинвестировать. Благо, Microsoft вкладывается в основном не деньгами, а машинным временем — нейросетки обучаются на его оборудовании. Теперь дают в 10 раз больше, а значит на горизонте что-то совсем монструозное. Это при том, что уже и нынешние системы демонстрируют удивительные вещи. К примеру, количество знаний, которыми они оперируют позволило ChatGPT сдать выпускные экзамены по курсу менеджмента (пусть и на 4-ку), пройти часть обязательных тестов мединститута и часть экзаменов для для получения лицензии адвоката (юриспруденция пока дается нейросетям труднее всего). Говорят, в Google уже сейчас напуганы возможностями нынешнего поколения моделей OpenAI. Впрочем, главный научник Meta Ян Лекун (стоявший у истоков нынешней революции нейросетей) говорит, что продукты OpenAI сделаны хорошо, но ничего уникального в них нет и у всех больших корпораций и в крупных университетах есть модели не хуже.
༼つ◕_◕༽つ @geekorama
1 минута
24 января 2023
4126 читали