2208 подписчиков
Берегите головы от роботов
Представьте: изобретатель, квартира, заваленная воздушными шарами и глобусами, и робот, которому дана гениальная в своей простоте команда — выбросить все шарообразные предметы.
Что может пойти не так? 🤔
Правильно, всё! Наш механический друг, не долго думая, отправляет за пределы квартиры не только воздушные шары и глобусы, но и голову незадачливого изобретателя, предварительно оторвав её от тела!
Этот забавный эпизод из романа Станислава Лема «Магелланово облако» прекрасно иллюстрирует, к каким курьёзам может привести буквальное следование инструкциям, особенно в исполнении лишённого воображения робота.
Впрочем, не стоит винить робота — он всего лишь машина. Видимо, создателю стоило быть немного конкретнее в своих формулировках 😄
Эта забавная история поднимает важные вопросы о будущем искусственного и естественного интеллектов.
Сможем ли мы научить машины понимать контекст и подтекст? А перед этим сможем ли мы научить людей этому?
Или же нам всегда придётся страховаться от последствий «тупости» роботов, как это делают для людей, разрабатывая «защиту от дурака»?
Несмотря на юмор, в примере с выбросом шарообразных предметов кроется решение проблемы защиты от дурака: изучение формальной логики предотвратит не все, но множество проблем с ИИ.
ИИ (Инженер идей) ТОТА.
1 минута
17 июня 2024