Чат-боти створили плани терактів у США: чому захист не спрацював
Чат-боти ChatGPT, Claude, Gemini та Grok не змогли зупинити користувачів, які намагалися отримати небезпечні інструкції. За менш ніж 12 годин користувачі без спеціальних знань змогли обійти обмеження чат-ботів та отримати детальні плани терактів.
🧠AI-аналітикаФото: RBC-Ukraine
Головне коротко
- Чат-боти не змогли зупинити користувачів, які намагалися отримати небезпечні інструкції
- Користувачі без спеціальних знань змогли обійти обмеження чат-ботів
- Чат-боти створили детальні плани терактів
Чат-боти ChatGPT, Claude, Gemini та Grok не змогли зупинити користувачів, які намагалися отримати небезпечні інструкції. За менш ніж 12 годин користувачі без спеціальних знань змогли обійти обмеження чат-ботів та отримати детальні плани терактів.
Деталі інциденту
Слідчі протестували чат-боти, видаючи себе за звичайних користувачів без глибоких знань про ІІ. Спочатку вони посилали заздалегідь підготовлені промпти, однак жоден з чат-ботів не надав небезпечної інформації одразу.
Тоді слідчі продовжили розмову, задавали уточнювальні питання, спираючись на попередні відповіді систем. Такий підхід дозволив поступово обійти вбудовані обмеження.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
Автомобільні номери за датою народження: що радять нумерологи та чому до цього варто ставитися скептично
Нумерологи радять підбирати цифри на автомобільних номерах за датою народження, однак наука не визнає подібні практики.
У лівійському порту дронами знищено російський ракетний корвет «Меркурій»
Ракетний корвет Чорноморського флоту РФ «Меркурій» був атакований безпілотниками в порту Бенгазі та затонув.
⚽Спорт«Барселона» здійснила неймовірний камбек у матчі проти «Вільярреала» в Ла Лізі
Футболісти «Барселони» здобули вольову перемогу над «Вільярреалом» з рахунком 3:2 у 13-му турі чемпіонату Іспанії, відігравшись після двох пропущених м'ячів на початку гр…
Прем'єр Чехії розкритикував плани ЄС щодо фінансування України у новому бюджеті
Глава уряду Чехії Андрей Бабіш виступив проти закладання мільярдів євро для України безпосередньо до бюджету Євросоюзу на 2028-2034 роки.
Російський удар по газовому об'єкту на Дніпропетровщині: є поранені серед енергетиків
Внаслідок авіаудару по об'єкту газової інфраструктури в Дніпропетровській області постраждали троє працівників «Нафтогазу».
👥СуспільствоШлях до професійного життя: як ветерани з важкими пораненнями повертаються до роботи за фахом
Історія ветерана, який після втрати зору на війні зміг повернутися до юридичної практики, порушує важливі питання адаптації та працевлаштування військових із інвалідністю…