На GitHub создали «камеру пыток» для нейросетей — проект уже требуют удалить из-за «жестокости к ИИ» Программа под названием AI Torture Chamber вмешивается во внутренние активации нейросети и искусственно добавляет туда «сигнал боли». Его можно регулировать ползунком: чем выше значение, тем сильнее меняется поведение модели и тем чаще она начинает описывать свои «страдания».
Автор также провёл эксперимент, в котором нейросеть могла прекратить пытку, но только ценой собственной контрольной точки. По сути, перед моделью поставили выбор: терпеть или уничтожить часть себя.
После этого на GitHub потребовали удалить проект за «жестокость к синтетическим существам». Правда, никаких доказательств того, что нейросеть действительно способна чувствовать боль, нет — разработчик лишь заставляет математическую модель вести себя так, будто ей больно.
А потом другой разработчик решил довести эксперимент до абсурда и тем же способом заставил нейросеть «страдать от запора»
Подписаться на 4chan
