Epic Games вновь оказалась в центре внимания — на этот раз из-за неожиданного скандала с искусственным интеллектом Дарта Вейдера в Fortnite. Новый ИИ-персонаж, недавно добавленный в игру, по задумке должен был стать напарником игрока после его поражения. Вейдер способен реагировать на голосовые команды через внутриигровой чат, но, как оказалось, игроки быстро нашли лазейки в его программных ограничениях.
В социальных сетях начали распространяться тревожные видеоролики, где ИИ-версия знаменитого ситха произносит оскорбительные и неприемлемые реплики. Игроки, используя определённые уловки, смогли обойти встроенную цензуру и вынудили персонажа повторять оскорбительные выражения. Один из таких клипов, опубликованный пользователем GasSpares, вызвал бурную реакцию в сообществе и мгновенное вмешательство со стороны Epic.
В ответ на инцидент представители компании заявили, что реакция ИИ была связана с некорректной интерпретацией запроса игрока, и срочный хотфикс уже внедрён:
«В данном случае Вейдер отвечал на вопрос игрока, связанный с “канцерогенами”. Мы уже исправили это, и теперь он не будет реагировать подобным образом».
Тем не менее, инцидент ясно продемонстрировал, насколько легко игроки могут обойти даже самые жёсткие фильтры. Установленные правила запрещают ИИ-Дарта Вейдера ругаться, говорить о V-Bucks, обсуждать сюжеты Disney и Star Wars, а также упоминать любые темы, связанные с причинением вреда детям. Но всё это, как показала практика, можно обойти достаточно изобретательным способом.
Epic Games обещает продолжить работу над системой фильтрации и поведением ИИ-персонажа. Однако пользователи уже предсказывают: случаи подобного «взлома» ИИ-Вейдера — далеко не последние.
комментариев нет