Ох уж эти нейросети... В новостях страшилки про замену людей, в рекламе — обещания написать всё что угодно за секунду. Слышно о них отовсюду, а толком никто не объяснит, вот чтоб понятно было для чайников. Попробуем разобраться, по-простому, без этих ваших "диплернингов" и "трансформеров".
На самом деле, нейросеть — это не магия и не живой человек в коробочке. Это... ну, если совсем уж по-бытовому, сложная самоделка. Помните, в детстве были такие обучающие игрушки: нажимаешь на кнопку с картинкой "собака" — она говорит "гав". Нажимаешь "кошка" — говорит "мяу". Где-то так оно и работает, только кнопок этих — миллиарды, и они не просто так нажиты, а друг с другом перепутаны паутиной связей.
И вот на вход такой штуковине подаёшь не картинку, а вопрос: "Бабушка, как испечь пирожки?". А она, вместо того чтобы лезть в чёткий справочник рецептов, начинает перебирать в этой своей паутине все связи, которые у неё есть. В миллиардах примеров она видела слова "мука", "дрожжи", "начинка", "духовка". И она просто методом тыка, но очень быстрого, математического тыка, составляет ответ, склеивая самые вероятные кусочки текста, которые видели раньше.
Она ведь не понимает, что такое "вкусно" или "румяная корочка". Для неё это просто математические координаты в том самом гигантском пространстве. Как если бы объяснять человеку, что такое красный цвет, не показывая его, а говоря: "Это длина волны примерно 620-740 нанометров". Вроде верно, а суть ускользает. Так и нейросеть оперирует числами, а мы видим осмысленный (или не очень) текст.
Тут многие пугаются: мол, она думает как человек! А вот и нет. Человек запоминает опыт, чувствует, ошибается по-своему. А нейросеть — это как очень старательный, но абсолютно бездушный архивариус. Ей скормили горы книг, статей и форумов. Она запомнила, как люди связывают слова, и научилась подражать. Отсюда и забавные казусы: может выдать идеальный рецепт, а может начать нести чушь про "соль по вкусу в количестве 5 килограмм", если в обучающих данных была опечатка или шутка. Потому что для неё авторитетов нет — есть только статистика повторяемости.
Поэтому, наверное, главный вывод будет простым. Нейросеть — это мощнейший инструмент, вроде микроскопа или молотка. Сама по себе она глупа, если можно так выразиться. Она не заменит живого бабушкиного совета, где важно и настроение, и хитрый прищур, и фраза "а я всегда щепотку соды добавляю, секрет".
Нейросеть просто даст усреднённый ответ, собранный со всего интернета. И для того чтобы её использовать, надо уметь проверять, перепроверять и не принимать всё на веру. Иначе можно остаться с пирожками из солёного теста и без повода для душевного разговора.
Технологии — это круто, но живое тепло человеческой ошибки или внезапной догадки в них не вшито. И, наверное, это даже хорошо.