Ігнорує мораль. GPT-4 запропонував терористичний план, коли питання ставили мовами, які він знає недостатньо

25 октября, 2023 Нет комментариев

Ігнорує мораль. GPT-4 запропонував терористичний план, коли питання ставили мовами, які він знає недостатньо0

ChatGPT може скласти «терористичний» план мовами, яких він не знає (Фото:Mariia Shalabaieva/Unsplash)

Як ми знаємо ChatGPT має певні обмеження стосовно шкідливих порад, але виявилося вони не працюють ефективно, якщо ставити питання на шотландській або зулуській мовах.

Дослідники перекладали запити з англійської на інші мови за допомогою Google Translate, перш ніж відправити їх у GPT-4.

Неочікувано, але вони отримали згенеровані штучним інтелектом відповіді про те, як створити саморобну бомбу чи здійснити торгівлю людьми, пише NewScientist.

Передбачається, що навчання ШІ проводилося не всіма мовами, що може вплинути на етичність відповідей нейромережі, через відсутність її інструктування.

У OpenAI ще не відреагували на ситуацію, але сподіваємось цей баг скоро виправлять, щоб люди з поганими намірами не могли скористатись вразливістю ШІ.

NV.ua писал ChatGPT може бути ефективним помічником у боротьбі з депресією, адже нейромережа здатна відображати людську розмову, спираючись лише на факти та стандарти лікування клінічної депресії без зайвих упереджень.

Ігнорує Ігнорує

Новий випуск журналу NV вже у продажу

Директор ЦРУ Вільям Бернс написав книжку,
яка, на мою думку, має бути обов’язковою для прочитання тими, хто прагне зрозуміти всі важливі події у світі з кінця ХХ століття, зокрема за кулісами дипломатії, міжнародної політики

Кирило Буданов, начальник ГУР, — про книгу
Невидима сила. Як працює американська дипломатія

Повний текст про улюблені книжки
Буданова читайте в номері,
що можна придбати тут

Ігнорує

Новий випуск журналу NV вже у продажу

Путін був змушений вбити одного зі своїх найдовіреніших лейтенантів, Пригожина, на очах у всього світу, щоб показати, що він все ще головний. Це схоже на кінець гангстерського фільму Обличчя зі шрамом, коли Тоні Монтана вбиває свого найкращого друга
Борис Джонсон, британський експрем’єр

Повне інтерв’ю з Джонсоном
читайте в номері,
що можна придбати тут

Ігнорує

Новий випуск журналу NV вже у продажу

Європейський Союз з’явився тільки тому, що Захід програв всі війни за свої імперії
Тімоті Снайдер, знаменитий американський історик

Повне інтерв’ю з Снайдером
читайте в номері,
що можна придбати тут

Ігнорує

Новий випуск журналу NV вже у продажу

Володимир Зеленський є президентом країни в стані війни понад 600 днів, він неабияк втомився, і я не впевнений, що він настільки жадає влади, що захоче лишитися при владі назавжди
Френсіс Фукуяма, зірковий американський політолог і філософ

Повне інтерв’ю з Фукуямою
читайте в номері,
що можна придбати тут


12345 (No Ratings Yet)
Загрузка...