Прочитала перевод интервью с Элиезером Юдковски https://m

Прочитала перевод интервью с Элиезером Юдковски https://m.geektimes.ru/post/289495/ и что-то как-то не впечатлилась.

Я вообще сейчас очень внимательно читаю любые интервью, изучая техническую часть (или как это правильно назвать?): когда читаешь и создаётся ощущение, что не только открываешь для себя человека и его деятельность (в зависимости от тематики), но и ощущаешь незримое личное присутствие. Как будто ты сидишь рядом и наблюдаешь это пикирование вопросов-ответов. Когда интервьюируемого захватывает вопрос настолько, что он готов раскрыть все свои мысли. (Скорей бы вечер, У ДУДЯ ВЫШЕЛ НОВЫЙ ВЫПУСК С МАЛИКОВЫМ, #простите)

А в этом случае — классно, круто, но Юдковски слишком умён для любого интервью. Пусть он пишет свои тексты и теоретику рационалиста, потому что, как только он распаляется с ответами, то кажется, что уже с искусственным интеллектом разговариваешь, который превзошёл коллективный человеческий. И фиг знает, умные вещи он тебе говорит или это можно поставить под сомнение. Ну и разбор вопроса на составляющие и объяснение, как надо вопросы формулировать, ощущается как будто зануда-учитель к доске двоечника пригвоздил перед всем классом, а не дополнительное знание.

Но пара мыслей мне понравились.

Юдковски отвечает на вопрос о переоцененной полезности колледжа:
«Я бы удивился, если бы его полезность была недооценена, учитывая социальные требования к тому, чтобы окончить его. Насколько я знаю, нет причин не верить экономистам, считающим, что колледж превратился в некий «престижный товар», и что попытки увеличить объём студенческих займов просто увеличили стоимость колледжа и бремя студенческих долгов».

И вот эта абстракция про сопоставление ИИ и людей интересная:
«Спрашивать, "чего захочет сверхинтеллект" — это неправильный вопрос. Сверхинтеллекты — это не странное племя людей, живущих по ту сторону реки, и обладающих экзотическими обычаями. ИИ — это просто название всего пространства возможностей вне крохотной человеческой точки. Обладая достаточными знаниями, можно забраться в это пространство возможностей и достать оттуда ИИ, обладающий желаниями, которые можно описать человеческим языком хотелок, но не потому, что это будут естественные хотелки этих экзотических сверхлюдей, а потому, что вы выделили одну часть из пространства видов разума».