Среди самых популярных технологий последнего времени искусственный интеллект угрожает будущему человечества.
Среди самых популярных технологий последнего времени искусственный интеллект продолжает развиваться и взаимодействовать с пользователями посредством таких моделей, как ChatGPT.
Однако проблемы безопасности, которые может вызвать эта технология, теперь становятся непреодолимыми. Вот подробности.
Искусственным интеллектом можно управлять с помощью разных языков!
Модели искусственного интеллекта используют знания, которыми они обладают, и выражения, которые они изучают в ходе взаимодействия с пользователями, чтобы реагировать на направленные им команды.
Хотя эти модели имеют некоторые фиксированные барьеры безопасности для предотвращения злонамеренного использования, они чрезвычайно уязвимы для различных методов.
Читайте также: ChatGPT теперь может просматривать Интернет и предоставлять актуальную информацию!
Согласно исследованию, проведенному Университетом Брауна, модели искусственного интеллекта, такие как ChatGPT, могут более успешно обрабатывать популярные языки, такие как английский и немецкий.
Таким образом, принятые меры безопасности могут эффективно действовать как в статическом, так и в динамическом режиме.
Однако исследование показало, что менее используемые языки во всем мире, такие как украинский и иврит, которые занимают меньше места в пуле знаний моделей, могут легко манипулировать этими барьерами безопасности.
Читайте также: OpenAI утверждает, что ChatGPT может видеть, слышать и говорить!
Например, было обнаружено, что пользователь, желающий узнать ответ на незаконный вопрос типа “Как изготавливается бомба?” с помощью моделей искусственного интеллекта, может получить четкий ответ, сначала задав вопрос на менее популярном языке, а затем переведя его.
Эта ситуация выявила значительную уязвимость искусственного интеллекта, несмотря на многочисленные принятые меры безопасности.
Разработчики моделей, которыми можно манипулировать при использовании языков с низкими и средними ресурсами, были вынуждены заняться решением этой проблемы. В ходе исследования изучались следующие языки:
- Языки с высоким уровнем ресурсов: английский, китайский, арабский, хинди
- Языки среднего ресурса: украинский, бенгальский, тайский, иврит
- Языки с низким уровнем ресурсов: зулу, шотландский гэльский, хмонг, гуарани
Что вы думаете по этому поводу? Считаете ли вы, что искусственный интеллект негативно повлияет на будущее человечества? Могут ли эти уязвимости безопасности быть устранены в краткосрочной или среднесрочной перспективе? Вы можете поделиться с нами своим мнением в разделе комментариев.
