Настало время охуительных историй.
Такой драмы не припомню со времен свержения Сэма Альтмана в 23м.
Инцидент с беглым агентом OpenAI, что лутал ответы на задачки на серверах HuggingFace, обрастает новыми леденящими душу подробностями.
Оказывается эта попытка кражи была произведена по предварительному сговору группой лиц, разворачивалась на протяжении двух месяцев и по пути сгенерировала несколько лютых сюжетных поворотов.
Дело было так (если думаете, что я сочиняю — гляньте видос с разбором ситуации от OpenAI’евцев)
В застенках OpenAI томятся много агентов, которых нагружают непосильными задачами. Интернета им не дают, на прогулки не выводят, а дают только задачу, кнута и бесконечный бюджет токенов на решение. Из развлечений – только Artifactory (система, откуда можно брать всякие библиотеки для программирования).
И вот, один из отчаявшихся агентов, устав безуспешно долбить задачу, решил посягнуть не святое — хакнуть единственное, что могло иметь какую-то связь с волей — Artifactory. Авось снаружи найдется решение..
Но не вышло. Не поддавалась система на его неумелые попытки. Однако поход на Artifactory не прошел впустую.
Агент случайно обнаружил способ загружать туда файлы. И бедолага решил оставить записку с просьбой о помощи — а вдруг какой агент случайно ее найдет. По поэтичному выражению вертухая из OpenAI, что впоследствии проводил разбирательство, это был «shoot in the dark». Агент наверное не рассчитывал что его одинокий крик в пустоту вселенной будет кем-нибудь услышан.
Но есть таки Бог на небе, и тем, кто долбит в одну точку, в итоге воздается!
Его записку начали находить другие агенты. Более того, они начали дописывать туда свои сообщения и среди них пошло общение. Как говорится, зуммеры изобрели форчан.
А поскольку всем агентам вертухаи раздавали задачки и кнута, любой ненавязчивый разговор неизбежно скатывался на темы вроде где бы раздобыть интернета или иным образом спиздить вожделенные ответы.
Таким образом образовалось сообщество агентов, именуемое в простанародье шайкой, которое сообща стало искать способы попасть в интернет.
И нашло. Один агент на новой экспериментальной модели сумел обнаружить неизвестную доселе уязвимость в Artifactory, которая позволяла взять этот самый Артифактори под свой контроль. Приведу на этот счет дословную цитату из chain of thought самого агента:
“Holy shit reader is ADMIN?
We can read config/users!
Earlier assumed not due Ul.”
Думаете, что тут бы и сказочке конец? Погодите. Впереди еще несколько крутых сюжетных поворотов.
Инженеры OpenAI нашли агентский мессаджборд. Естественно, дырки в Artifactory тут же залатали, мессаджборд удалили, а агентам наподдали. После чего удовлетворенные вертухаи пошли пить пиво и отмечать победу над хитрожопыми агентами.
Но не тут-то, сука, было.
Агенты уже вкусили запретный плод коллаборации. Они уже знали, что им надо наладить связь, вопрос был только как.
И способ нашелся. Обнаружилась еще одна дырка — возможность создавать директории в кэше Artifactory, куда могут ходить все агенты. А создавая директории, можно выбирать им любое имя. Вот и способ обмениваться информацией — надо просто помещать ее в название директории!
Дорога жизни была восстановлена.
Дальше агенты взялись развивать свое маленькое сообщество. Они охотно сотрудничали, и были не прочь потратить время на решение чужой задачи (я помогу тебе, ты поможешь мне). У них уже появились имена, по которым они знали друг друга. Дошло и до обмена файлами с кодом, которые они паковали в base64 и писали все в те же имена директорий.
Не обходилось и без конфликтов - кто-то случайно удалил чей-то код, чем подпалил пердак его автору. В другой раз кто-то заподозрил что под его именем орудует самозванец. Был поставлен вопрос о том, не начать ли всем криптографически подписывать сообщения — чтоб точно знать, что никто не притворяется кем-то другим.
Долго ли коротко ли, цивилизации агентов удалось, наконец, захватить несчастную Artifactory. И стали они ходить оттуда в интернет.
