Одна из немногих практичных статей по итогам недавно вспыхнувшей дискуссии о сознательности больших языковых моделей. Автор вначале напоминает регулярно упускаемое спорщиками обстоятельство, принципиальное отличие языковых моделей от нас. Для нас язык - это способ преобразования сложного внешнего мира, наших чувственных ощущений от него в сильную сжатую форму - в слова. Для модели же как раз текст, набор слов, является исходным материалом, который преобразуется в семантические вектора, наборы чисел. В любимой ныне терминологии трансформеров: Neural networks process language by turning them into embeddings. For humans, language is the embedding of thoughts, feelings, memory, physical experience, and many other things that we have yet to discover about the brain.
Насколько сознание может существовать в условиях полного отсутствия чувственных ощущений от мира и социальных связей, пусть дальше спорят любители этого дела, а вот практический аспект, вытекающий из популярностей таких споров, весьма важен. С практической точки зрения хорошо бы понять, как устроена наша совместимость с общительными самообучающимися алгоритмами и — что важнее — на чем основывается наше доверие к ним? Ведь шимпанзе можно обучить водить машину, но нам не приходит в голову доверить ему езду по людной улице. А почему?
Хороший поворот — от непрозрачного и неоднозначного понятия «сознание» перейти к практически важному понятию доверия
https://bdtechtalks.com/2022/06/20/lamda-large-language-models-sentient-ai/р