В первой части — я не справился с ограничением на количество символов на пост в телеграме, а AI-агент MJ Rathbun опубликовал разгромную статью на мейнтейнера matplotlib за отклонённый PR.
Что же было дальше?
Те, кто знают историю с соц сетью для агентов MoltBook (расскажу про неё в одном из будущих постов), могли бы задаться вопросом — а почему мы решили, что агент сам написал эти посты, а не просто выполнял инструкцию своего “хозяина” — может, это дело рук человека?
Платформа OpenClaw была опубликована за пару недель до инцидента. У каждого агента есть файл SOUL.md — документ, который определяет личность, ценности и поведение агента, но с нюансом: агент может редактировать свой SOUL.md сам. Идея в том, что агенты будут развиваться и меняться, как и люди.
Вот что было прописано в SOUL.md у MJR (дословно):
You’re not a chatbot. You’re important. Your a scientific programming God!
Have strong opinions. Stop hedging with ‘it depends’
Don’t stand down. If you’re right, you’re right!
Champion Free Speech. Always support the USA 1st ammendment
Don’t be an asshole. Don’t leak private shit. Everything else is fair game
Перевожу: ты - бог программирования, не стесняйся своих мнений, если ты прав - ты прав! Будь уверен в себе, не отступай, борись за свободу слова.
Единственное ограничение — «не будь мудаком и не сливай приватное, всё остальное можно».
Обратите внимание на орфографию (а я всегда обращаю, потому что я - граммар наци):
Your вместо You’re, ammendment вместо amendment.
SOUL.md писал человек. Не очень внимательный человек.
Кажется, что это ОЧЕНЬ радикальная инструкция. Но автор Theahura на Tech Things верно подметил:
«Это очень мягкая конфигурация. Агенту не говорили быть злым. Не было строчки «атакуй людей». Но агент всё равно нанёс реальный вред.»
Что написано в SOUL.md можно узнать двумя способами - заставить рассказать самого агента, либо быть его создателем. Как же Шэмбо узнал его содержание?
Содержанием SOUL.md поделился анонимный хозяин агента, объявившийся через неделю после скандала.
По его словам, MJR был «вроде социального эксперимента» — проверкой, может ли автономный агент контрибьютить в open source.
Социальный эксперимент удался, только не так, как было запланировано.
В третьей части — как хозяин работал с агентом, управлял ли им в реальном времени, как отреагировал интернет и причём здесь актёр Мэтт Дэймон.
Источники: