Фото: Unsplash
С выходом новой версии GPT-4 создатели опасаются крупномасштабного потока дезинформации, которая может быть создана инструментом. Илон Маск также предупреждал, что считает ИИ более опасным, чем ядерное оружие. По мнению создателей, у человечества есть не так много времени, чтобы взять технологию под полный контроль.
GPT-4 — это новая мультимодальная система искусственного интеллекта. В отличие от предыдущей версии, которая строилась на вводе текстовых команд, ИИ может принимать и воспроизводить информацию в виде изображений, аудио и видео файлов. Гендиректор Open AI и один из разработчиков GPT Сэм Альтман признал, что последняя модель создает информацию, не только на основе запоминательного процесса, но и использует дедукцию, что может привести к странным результатам. Побочный эффект технологии называют «галлюцинацией» — ИИ уверенно констатирует факты, которые на самом деле являются ложными.
Кроме того технология способна написать компьютерный код, который может быть использован хакерами для крупных кибератак.
Сэм Альтман уточняет:
«Мы немного напуганы тем, что эти модели могут быть использованы для крупномасштабной дезинформации. [...] Это инструмент, который очень сильно контролируется человеком, но будут и другие люди, которые снимут ограничений безопасности, которые мы ставим. [...] У общества, я думаю, есть ограниченное количество времени, чтобы выяснить, как реагировать, регулировать и справляться с этим».
Ранее генеральный директор Tesla Илон Маск, один из первых инвесторов в OpenAI, неоднократно предупреждал, что ИИ или ОИИ (общий искусственный интеллект) более опасен, чем ядерное оружие.
Тем не менее создатели GPT считают, что инструмент может стать «величайшей технологией, которую человечество когда-либо разработало», поскольку ИИ уже не просто огромная база данных, а «что-то более близкое к способности рассуждать».
