Можно ли доверять искусственному интеллекту?
Добрый вечер, уважаемые подписчики.
Тема ИИ нами поднималась неоднократно и, видимо, в силу ее популярности, мы вернемся к ней еще не раз. Сегодня мы бы хотели поговорить о степени доверия ИИ. Где та грань, когда необходимо усомниться в результатах?
Для людей, которые не знают, как работает ИИ, а таких абсолютное большинство, ИИ это черный ящик, который выдает изумительно верные ответы.
Вот мы и решили проверить их на простой, казалось бы, задаче: посчитать, сколько надо купить керамической плитки на пол в помещение условными размерами 3 на 4 метра.
Для теста мы взяли две бесплатные и доступные обычному человеку нейросети — ГигаЧат и DeepSeek.
Составили запрос:
Сколько надо плиток, чтобы выклеить пол в помещении 3 на 4 метра. Размер плитки 40 на 40 см. Швы 3 мм. Раскладка прямая. Запас плитки +5%
Результаты:
ГигаЧат: 77 шт.
DeepSeek: 84 шт.
Онлайн-калькулятор: 84 шт.
Уже несовпадение, но ладно — списали на погрешность. Усложним задачу:
Сколько надо плиток, чтобы выклеить пол в помещении 3 на 4 метра. Размер плитки 40 на 40 см. Швы 3 мм. Раскладка диагональная. Запас плитки +5%
Результаты:
ГигаЧат: 169 шт.
DeepSeek: 101 шт.
Онлайн-калькулятор: 92 шт. (как при прямой раскладке, но с запасом +15 %, а не 5 %).
Тут бы нам уже тормознуть, но, как говорится, Остапа уже было не остановить.
Мы составили третий запрос:
Сколько надо плиток, чтобы выклеить пол в помещении 3 на 4 метра. Размер плитки 40 на 40 см. Швы 3 мм. Раскладка: плитка 40 на 40, шов 3 мм, в центре пересечения четырёх плиток квадратная плитка 10 на 10 см. Запас плитки + 5%
Результаты:
ГигаЧат: 77 больших и 93 маленьких
DeepSeek: 69 больших и 13 маленьких
Онлайн-калькулятор: вообще ушёл в себя и не вернулся.
В этот момент даже мы, люди, в целом понимающие, как работают нейросети, почувствовали лёгкое головокружение. Как так? Где правда? Кому верить?
Почему ИИ так ошибается?
Дело не в том, что ИИ глупый. Дело в том, что у него нет внутреннего «понимания» пространства. Он не видит комнату. Он не представляет, как ложится плитка. Он просто подбирает слова и числа, которые чаще всего встречаются в похожих запросах.
ГигаЧат — продукт «Сбера». Он обучен на больших объёмах русскоязычных текстов, и, вероятно, в его обучающей выборке было много статей про ремонт. Но считать он не умеет. Он имитирует счёт.
DeepSeek — более «технически подкованный». Но и он пасует, как только задача выходит за рамки стандартного сценария. Диагональная укладка? Ещё куда ни шло. Но дизайнерское решение с плиткой 10×10 в пересечении швов....
А онлайн-калькулятор… что ж, он честно попытался обработать запрос, но, видимо, был расчет на то, что мы позвоним менеджерам.
Чек-лист: когда ИИ можно (почти) верить
Мы провели эксперимент не ради хайпа, а ради пользы. Вот что мы поняли.
1. ИИ хорош для общего понимания задачи
Если вам нужно объяснение, что такое диагональная укладка, или список инструментов для плиточника, ИИ справится отлично. Но как только речь заходит о цифрах, особенно о конкретных расчётах - включайте критическое мышление.
2. Проверяйте источник знаний
ИИ не знает - он предполагает. Если он пишет «площадь помещения 12 м², плитка 0,16 м², значит нужно 75 штук» - это не вычисления, это стилизация под вычисления. Настоящая математика здесь не ночевала.
3. Чем сложнее условия, тем выше вероятность ошибки
Чем больше вводных, тем выше шанс, что ИИ соберёт их в случайную комбинацию. Диагональ, нестандартный размер, вставки, раскладка ёлочкой - для нейросети это уже не задача, а квест.
4. ИИ не умеет признавать неуверенность
Человек-консультант может сказать: «С ходу не скажу, надо чертить». ИИ этого не сделает никогда. Он будет вежливо, уверенно и абсолютно неправильно вести вас в пропасть с 169 плитками там, где нужно 92.
Так можно ли доверять искусственному интеллекту?
Можно, но с поправкой. Доверять - как калькулятору, в котором села батарейка и цифры едва различимы.
А потому главный навык человека в эпоху ИИ - это умение вовремя сказать: Спасибо, но я перепроверю.
