На днях в корпорации "Google" разразился скандал. После более чем десятилетней успешной карьеры из компании ушел пионер в исследовании искусственного интеллекта (ИИ) и по праву «крестный отец ИИ» Джеффри Хинтон
Свой уход из Гугла ученый объяснил в газете The New York Times своими серьезными опасениями по поводу своего "детища".
В частности он сообщил, что человечеству придется разгребать негативные последствия распространения искуственного интеллекта. Понятие «правды» из-за множества сгенерированных картинок и видео может потерять свою ценность. Распространение ИИ приведет к сокращению профессий, где нужен человек. А начатая гонка вооружений может стать фатальной из-за внедрения в современное вооружение элементов искусственного интеллекта.
- Тут надо сказать, что ранее летом прошлого года из Гугла буквально со скандалом уволился тестировщик машинного языка ИИ инженер - программист Блейк Лемуан.
Он обнаружил, что его создатели заложили в него алгоритмы самосознания или даже осознанности. Инженер сообщил об этом руководству Гугла. Однако те попросили его мочать об этом и продолжать работать. Но Блейк посчитал необходимым сообщить о своем открытии журналистам газеты "Washington Post":
"Если бы я не знал точно, что это такое, а именно компьютерную программу, которую мы недавно создали, я бы подумал, что это 7-8-летний ребенок, который случайно разбирается в физике", - сказал тогда Лемуан журналисту "Washington Post". "Я узнаю человека, когда разговариваю с ним".
Блейк Лемуан будучи в Google специалистом по этике ИИ обнаружил, что программа называла себя личностью и проявляла эмоциональные реакции на попытки коррекции ее ответов. Он опубликовал в Washington Post свое заявление о том, что разработанная в Гугле программа LaMDA под видом языка Google (LLM), проявляет разум человека, разбирающегося в физике.
Справка:
- LaMDA - это прорывное изобретение в корпорации Гугл. Это корневая часть системы искусственного интеллекта, которая имитирует диалоги с человеком. ИИ анализирует триллионы словосочетаний в Сети, обрабатывает их и выбирает лучшее для ответа.
Получается, что опасения Блейка подтвердились. Неожиданное увольнение из Гугла главного разработчика ИИ Джеффри Хинтона тому явное доказательство:
По мнению Джеффри Хинтона после выхода в свет ИИ, все будет становиться лишь хуже: «Я утешаю себя так: если бы я этого не сделал, это сделал бы кто-то другой».
Все происходящее в Гугле происходило на фоне выхода в свет 30 ноября 2022 года от компании OpenAI чат-бота ChatGPT, который научился отвечать на вопросы человека, опираясь на свой искусственный интеллект. 7 февраля генеральный директор Microsoft Сатья Наделла и сооснователь OpenAI Сэм Альтман официально представили Bing с OpenAI. Таким образом Гуглу бы брошен вызов от конкурентов. Но в Гугле молчали и отстрелялись лишь 6 февраля 2023 года, когда глава Google Сундар Пичаи сообщил о запуске в ближайшие недели «экспериментального сервиса разговорного ИИ», под именем Bard. Но на последующей конференции 8 февраля компания исключила любые упоминания о Bard. Вероятно все это было связано с внутренним конфликтом с Джеффри Хинтоном.
Любопытный факт:
- Достижения Google в развитии LLM выглядят просто пугающе серьезными, чем в Microsoft. Это более 90 процентов всего мирового рынка запросов. Майкрософт был вынужден нанять к себе нескольких бывших сотрудников Google AI, которые настроили ChatGPT. А значит все их исходники будут у Гугла.
- После громкого ухода Джеффри Хинтона руки владельцев Гугла развязаны и они могут нанести ответный удар по конкуренту Майкрософту. А это означает, что правила в работе ИИ будут диктоваться рынком: ИИ проникнет во все сферы человеческой жизни: образование и коммуникации, медицину и финансы, производство и главное в оборонку.
Вот тут-то и вспомнишь эпохальный фильм из серии "Терминаторов". Надеюсь пронесет. Но похоже нет. Ставим лайки и подписываемся! Так требует искусственный разум) Он уже здесь)
#AI #Джеффрихинтон