В январе 2024 года вышла занимательная статья о будущем ИИ «Thousands of AI Authors on the Future of AI». В ней были опрошены 2778 ведущих мировых экспертов в области ИИ о том, какие задачи сможет выполнять ИИ в ближайшие годы. Для меня лично были интересны следующие прогнозы.
До 2028 года:
- написать новую песню конкретного исполнителя;
- написать с нуля сайт с возможностью оплаты картами.
До 2033 года:
- написать песню, которая попадет в ТОП-40 поп-песен;
- создать с нуля игру на базовом уровне;
- написать книгу уровня бестселлера;
- выиграть Путнамовскую олимпиаду по математике (сейчас у ИИ так себе с математикой).
Полную автоматизацию с заменой всех человеческих работ предсказывают, правда, на век только следующий.
Вообще стремительное развитие технологий (для этого есть отдельное направление - акселерационизм, о нем как-нибудь позже) и пугает, и удивляет, и радует, и печалит. Но риски есть, а раз они есть, я не могу не отметить и их в продолжение. Есть, например, вот такая работа, где авторы анализируют именно катастрофические риски от использования ИИ, есть даже русский перевод.
Авторы представляют четыре основных домена опасности (сферы, как мы уже теперь знаем), см. картинку:
1. Malicious Use
2. AI Race
3. Organizational Risks
4. Rogue AIs
Хорошая работа, иллюстрирующая, что может пойти не так.