#охота_на_оленя #ai_alignment #ai_safety
В качестве послесловия к цепочке про охоту на оленя - статья по мотивам моего рассказа на Летнем Солнцестоянии 2022.
Действовать во благо проекта по безопасности ИИ на самом деле могут очень многие. Если бы все, кто верили, что это нужно, так бы и поступили, то шансы всего проекта на успех значительно бы возросли. Однако по факту очень мало кто это делает на самом деле.
Первый вариант был бы предпочтителен для всех; второй - явно разочаровывает всех. И при этом большинство людей парадоксальным образом работает на то, чтобы реализовался наименее привлекательный для них вариант.
В этой статье я привожу краткий пересказ материала цепочки в разрезе конкретно проблемы проектов по AI Safety: почему выбор Шеллинга отдаляет такие проекты от реализации, и что можно сделать, чтобы хотя бы частично нивелировать этот эффект.
https://telegra.ph/Proekty-po-AI-Safety-kak-ohota-na-olenya-09-20
Telegraph
Проекты по AI Safety как охота на оленя
Довольно много людей (как минимум, многие из тех, кто так или иначе связан с сообществом LessWrong) верит, что сильный искусственный интеллект (AGI) - каким бы он ни оказался - создадут довольно скоро; что он будет чрезвычайно влиятельным; сам по себе он…
5September 21, 2022 1.1K 8
