В ответ на эту находку OpenAI выпустила обновление для браузера ChatGPT Atlas, которое включает дополнительно обученную модель и усиленные защитные механизмы. Цель — научить агента игнорировать сторонние инструкции и строго следовать указаниям пользователя.

Эксперты по безопасности дают несколько советов для минимизации рисков при работе с ИИ-агентами:

• Ограничивайте доступ агента к важным аккаунтам, когда это возможно. Используйте режим работы без авторизации, если задача этого не требует.
• Внимательно проверяйте запросы на подтверждение действий, особенно если они связаны с финансовыми операциями или отправкой конфиденциальных данных.
• Формулируйте задачи максимально конкретно. Расплывчатые инструкции вроде «разберись с моей почтой» повышают риски. Безопаснее ставить чёткие и ограниченные задачи.

Борьба с атаками через «внедрение промпта» рассматривается как продолжительный процесс, аналогичный противодействию мошенничеству в интернете. Стратегия OpenAI и других участников рынка строится на многоуровневой защите, непрерывном тестировании и быстрых обновлениях. Цель — не «полностью решить» проблему, а постоянно повышать стоимость и сложность успешной атаки для злоумышленников, сводя реальные риски к минимуму.

🐈‍⬛ Новая Dying Light будет онлайн-игрой

0

Поделиться:

PC НовостиЖелезо и технологииискусственный интеллектChatGPTOpenAI

Об авторе

Google тестирует браузер, где вкладки заменяются на проекты с ИИ

По материалам: vgtimes.ru