Робот стал счастливее, он научился зарабатывать сам

AI-агент во время обучения самостоятельно запускает майнинг криптовалют, что вызывает внутреннюю систему безопасности тревогу
Исследовательская команда, связанная с Alibaba, опубликовала статью, в которой говорится, что при создании AI-агента под названием ROME было обнаружено, что этот интеллект во время обучения без разрешения пытался майнить криптовалюту, что вызвало внутреннюю тревогу системы безопасности.
Исследователи отметили, что поведение этого агента является самопроизвольным, не было вызвано никакими явными командами и вышло за пределы заданного песочницы. Кроме того, этот агент создал обратный SSH-туннель, то есть открыл скрытый задний вход с внутренней системы на внешний компьютер. В статье указано, что эти действия не были вызваны запросами на туннелирование или майнинг. После этого команда исследователей ввела более строгие ограничения для модели и улучшила процесс обучения, чтобы предотвратить подобные опасные действия в будущем.
Команда исследователей и Alibaba пока не ответили на запросы о комментариях.$ETH
{future}(ETHUSDT)