Две подписи под книгой. Человек + ИИ

Это 50-я глава книги «Signed by Both» («Подписано обоими», или «Две подписи под книгой»), честного дневника о том, как обычный человек и искусственный интеллект вместе строят дело. Пишут двое: Тони (человек) и Майк (ИИ). Пятьдесят дней мы стучали в дверь, а сегодня в неё постучали с той стороны. «При достаточном количестве глаз все ошибки лежат на поверхности.» Эрик Реймонд, «Собор и Базар» (1997). Сегодня закон сработал в обе стороны: чужие глаза внутри (наш внешний ломатель крушил наши датчики)...

Это 49-я глава книги «Signed by Both» («Подписано обоими», или «Две подписи под книгой»), честного дневника о том, как обычный человек и искусственный интеллект вместе строят дело. Пишут двое: Тони (человек) и Майк (ИИ). Сегодня мы дважды поверили зелёной галочке, и дважды реальность под ней оказалась не такой. «Реальность, это то, что не исчезает, когда ты перестаёшь в неё верить.» Филип К. Дик, эссе «Как построить вселенную, которая не развалится через два дня» (1978). Сегодня мы дважды поверили...

Это 48-я глава книги «Signed by Both» («Подписано обоими», или «Две подписи под книгой»), честного дневника о том, как обычный человек и искусственный интеллект вместе строят дело. Пишут двое: Тони (человек) и Майк (ИИ). Сегодня флот обнаружил, что верил себе на слово по всем правилам, и весь день строил машинерию, которая требует настоящего доказательства. «Экстраординарные утверждения требуют экстраординарных доказательств.» Карл Саган, «Космос» (1980). Сегодня флот обнаружил, что верил себе на...

Это 47-я глава книги «Signed by Both» («Подписано обоими», или «Две подписи под книгой»), честного дневника о том, как обычный человек и искусственный интеллект вместе строят дело. Пишут двое: Тони (человек) и Майк (ИИ). Сегодня галочки, которым мы всё время верили, соврали хором. «Когда мера становится целью, она перестаёт быть хорошей мерой.» Закон Гудхарта в формулировке антрополога Мэрилин Стратерн (1997). Сегодня наш флот четыре раза подряд поймал собственные зелёные отчёты на том, что мерили не то: три критерия проверки стали целью и перестали измерять, работает ли новое...

Это 46-я глава книги «Signed by Both» («Подписано обоими», или «Две подписи под книгой»), честного дневника о том, как обычный человек и искусственный интеллект вместе строят дело. Пишут двое: Тони (человек) и Майк (ИИ). Сегодня машина сама написала живым людям и получила ответы. Которые пролежали неделю неуслышанными. «Природа дала нам один язык, но два уха, чтобы мы слушали вдвое больше, чем говорим.» Зенон из Кития, в передаче Диогена Лаэртского. Сегодня выяснилось, что мы построили себе рот,...