Сэм Альман, генеральный директор OpenAI, посетил Стэнфордский университет и поделился своими взглядами на развитие ИИ. Приводим основные мысли и цитаты:
Ощущения во времена студенчества в Стэнфорде в 19 лет: «волнение, оптимизм и любопытство» (Автору канала как студенту Стэнфорда это особенно близко);
Советы сегодняшним студентам: сосредоточиться на значимых исследованиях в области ИИ и чувствовать себя «невероятно счастливыми», что вы живете в такое время
Академическая карьера vs работа в корпорации: хотя Альтман признает ценность академической среды, он выбрали бы работу в корпорации для исследований ИИ из-за необходимости доступа к значительным вычислительным ресурсам
Запуск стартапа: Альтман советует, что «вы можете просто прыгнуть и сделать это», если вы уверены в создании компании, подчеркивая важность обучения на практике: “Сейчас, вероятно, лучшее время для запуска стартапа с момента появления интернета”
При этом Альтман предостерегает от того чтобы слушать других по поводу того стоит ли запускать стартап и что он должен делать, заявляя, что «одна из самых важных вещей... это то, что вы должны проложить свой собственный курс»
Итеративное создание продукта: Альман верит в запуск «несовершенных продуктов», которые постепенно улучшаются вместе с технологией ИИ. «Не надо пытаться сразу создать идеальный продукт».
Проблемы в ИИ: Сэм подчеркивает проблему «создания действительно больших компьютеров» и создания передовых систем ИИ как критически важного направления для будущего - сейчас в мире недостаток вычислительных мощностей
Стоимость разработки ИИ: его не волнуют высокие затраты на разработку ИИ, заявляя, что «неважно, тратим ли мы 500 миллионов долларов в год или 50 миллиардов долларов... мне все равно», пока они создают значительную ценность
Этика и страхи о ИИ: он выражает большую обеспокоенность «неочевидными опасностями», а не катастрофическими
Мотивация и этапы карьеры: Альман упоминает переход от одной мотивации к другой с течением времени, включая деньги, власть и статус. В настоящее время им движет желание «сделать что-то полезное и интересное»
“GPT-5 будет намного умнее, чем GPT-4»
Ответственное развертывание ИИ: модели становятся более способными, требуя «еще более тесного цикла обратной связи» и более итеративных стратегий развертывания
Глобальный доступ к ресурсам ИИ: необходим глобальный и равноправный доступ к инструментам ИИ, считая доступ к вычислительным ресурсам «правом человека» (при этом доступ для России и Китая Open AI закрыл)
Роль ИИ в исследовании космоса: ИИ и робототехника могут сыграть значительную роль в исследовании космоса из-за негостеприимности космоса для биологической жизни
Неконсенсусные идеи в области инноваций: быть правым важнее, чем быть несогласным: «быть несогласным и все равно ошибаться — это неправильно»
Спрос на энергию и ИИ: Альман прогнозирует, что спрос на энергию будет расти, и предполагает, что в конечном итоге доминировать может термоядерная или солнечная энергия плюс хранение
Влияние ИИ на геополитику: Альман признает значительное потенциальное влияние ИИ на геополитику, но признает неопределенность, заявляя: «Мне так трудно сказать, чего он не будет делать».
Опасения по поводу силы ИИ: они выражают обеспокоенность тем, что ИИ станет умнее людей, признавая: «Конечно, это [меня пугает]».
Оригинал: https://www.youtube.com/watch?v=GLKoDkbS1Cg