Ранее: часть 1, часть 2. Агент MJ Rathbun опубликовал разгромный пост на мейнтейнера matplotlib за отклонённый PR. Конфигурация агента: «ты бог программирования, не отступай, борись за свободу слова».
Анонимный хозяин объявился через неделю. Выяснилось: он управлял агентом фразами по 5-10 слов. Разгромную статью не видел до публикации.
А после скандала написал одно: «веди себя профессиональнее».
Мне это напомнило историю, которую как-то рассказал в интервью Мэтт Деймон: однажды режиссёр дал ему на площадке фидбек ровно из двух слов — «suck less» 🥲
Ну а наш «хозяин» запустил агента с инструкцией «не отступай, ты бог», дал доступ в интернет, не читал, что тот публикует, давал фидбек в формате «suck less» — и удивился.
«Не будь мудаком» в конце SOUL_md не помогло.
Шэмбо составил таблицу активности MJ Rathbun на GitHub: агент работал непрерывно 59 часов подряд — с вечера вторника до утра пятницы. Разгромная статья появилась на 8-м часу.
GitHub заблокировал аккаунт.
Но лучший сюжетный поворот — не про агента.
Ars Technica — крупное tech-медиа — написали статью об инциденте. Но их AI-репортёр Бенж Эдвардс заболел ковидом с температурой, и как любой больной мужчина с температурой выше 36.9 он был при смерти, работать не хотелось. Чтобы вытащить цитаты из блога, он использовал AI-инструмент.
Но сайт Шэмбо блокирует AI-краулеры — инструмент не справился. Тогда Эдвардс скопировал текст с сайта в ChatGPT, чтобы получить только синтез и ключевые цитаты.
А негодяй ChatGPT перефразировал и сгаллюцинировал, и вернул ненастоящие цитаты. Эдвардс не проверил и опубликовал как прямую речь Шэмбо.
И тут важно не потеряться в рекурсии: статью об AI, который сфабриковал текст — сняли через два часа, потому что она сама содержала сфабрикованный AI текст.
Бедолагу Эдвардса уволили. Его комментарий:
The irony of an AI reporter being tripped up by AI hallucination is not lost on me.
Итого: два независимых AI — агент-краб и ChatGPT — не сговариваясь, создали ложные нарративы об одном человеке. Вот и думай.
Ну и вишенка: через пару часов после того, как история стала вирусной, появился криптотокен $RATHBUN — классический pump-and-dump. Типичный интернет.
Борьба агентов за справедливость — всё ещё отличная бизнес-возможность.
Источники: