Ситуация выходит из-под контроля: непреодолимая проблема искусственного интеллекта

16
Просмотры
Непреодолимая проблема искусственного интеллекта
Искусственный интеллект. Фото: Google

Среди самых популярных технологий последнего времени искусственный интеллект угрожает будущему человечества.

Среди самых популярных технологий последнего времени искусственный интеллект продолжает развиваться и взаимодействовать с пользователями посредством таких моделей, как ChatGPT.

Однако проблемы безопасности, которые может вызвать эта технология, теперь становятся непреодолимыми. Вот подробности.

Искусственным интеллектом можно управлять с помощью разных языков!

Модели искусственного интеллекта используют знания, которыми они обладают, и выражения, которые они изучают в ходе взаимодействия с пользователями, чтобы реагировать на направленные им команды.

Хотя эти модели имеют некоторые фиксированные барьеры безопасности для предотвращения злонамеренного использования, они чрезвычайно уязвимы для различных методов.

Читайте также: ChatGPT теперь может просматривать Интернет и предоставлять актуальную информацию!

Согласно исследованию, проведенному Университетом Брауна, модели искусственного интеллекта, такие как ChatGPT, могут более успешно обрабатывать популярные языки, такие как английский и немецкий.

Таким образом, принятые меры безопасности могут эффективно действовать как в статическом, так и в динамическом режиме.

Однако исследование показало, что менее используемые языки во всем мире, такие как украинский и иврит, которые занимают меньше места в пуле знаний моделей, могут легко манипулировать этими барьерами безопасности.

Читайте также: OpenAI утверждает, что ChatGPT может видеть, слышать и говорить!

Например, было обнаружено, что пользователь, желающий узнать ответ на незаконный вопрос типа “Как изготавливается бомба?” с помощью моделей искусственного интеллекта, может получить четкий ответ, сначала задав вопрос на менее популярном языке, а затем переведя его.

Эта ситуация выявила значительную уязвимость искусственного интеллекта, несмотря на многочисленные принятые меры безопасности.

Читайте также: OpenAI доказал, что человечество не готово к грядущим событиям

Разработчики моделей, которыми можно манипулировать при использовании языков с низкими и средними ресурсами, были вынуждены заняться решением этой проблемы. В ходе исследования изучались следующие языки:

  • Языки с высоким уровнем ресурсов: английский, китайский, арабский, хинди
  • Языки среднего ресурса: украинский, бенгальский, тайский, иврит
  • Языки с низким уровнем ресурсов: зулу, шотландский гэльский, хмонг, гуарани

Что вы думаете по этому поводу? Считаете ли вы, что искусственный интеллект негативно повлияет на будущее человечества? Могут ли эти уязвимости безопасности быть устранены в краткосрочной или среднесрочной перспективе? Вы можете поделиться с нами своим мнением в разделе комментариев.

Подпишитесь на рассылку рецептов и советов