Anthropic каже, що Claude може завершувати чати через надзвичайно жорстоке поводження, яке повторюється
Компанія каже, що зміна стосується надзвичайно жорстокого поводження з її системами штучного інтелекту, яке повторюється, а не звичайного роздратування чи тестування моделей.
Завантаження інформації про перевірку.
Anthropic каже, що змінює правила для Claude, щоб інструменти компанії могли завершувати розмови у крайніх випадках жорстокого поводження з її системами штучного інтелекту, яке повторюється, повідомляє BBC. Компанія каже, що це вже траплялося в поодиноких випадках. [1]
Таку поведінку додадуть до переліку заборонених способів використання, який також охоплює цькування інших, заохочення до самоушкодження та створення інтимних зображень без згоди, повідомляє BBC. Anthropic каже, що нове положення не поширюватиметься на звичайне роздратування, заперечення, похмурі творчі теми, а також тестування й дослідження моделей. BBC повідомляє, що досі незрозуміло, яку саме поведінку щодо моделей компанія вважатиме жорстокою або образливою.
Оновлена політика також забороняє використовувати Claude для оманливих кампаній і уточнює обмеження на його використання для введення виборців в оману чи зриву виборів, повідомляє BBC.
Увійдіть, щоб оцінити цю статтю позитивно або негативно.
Про це обговорення та запитання до ШІ
Приватне тестове обговорення. Коментарі відображають погляди читачів і поки що не проходять автоматичну перевірку фактів. Редагувати коментар можна протягом 60 секунд після публікації.
Сортування застосовується до коментарів верхнього рівня; відповіді залишаються в порядку від найстарішої до найновішої. Нові коментарі та вподобання можуть змінити порядок. Оновіть сторінку, щоб побачити поточний рейтинг.
Завантаження коментарів…