Anthropic dice que Claude puede poner fin a chats tras abusos extremos y reiterados
La empresa dice que el cambio se dirige a los abusos extremos y reiterados de sus sistemas de IA, no a la frustración habitual ni a las pruebas de los modelos.
Cargando información de revisión.
Anthropic dice que está cambiando las normas de Claude para que sus herramientas puedan poner fin a conversaciones en casos extremos de crueldad reiterada hacia sus sistemas de IA, informa la BBC. La empresa dice que esto ya ha ocurrido en casos excepcionales. [1]
La conducta se añadirá a una lista de usos prohibidos que también incluye acosar a otras personas, promover las autolesiones y crear imágenes íntimas sin consentimiento, informa la BBC. Anthropic dice que la nueva disposición no se aplicará a la frustración habitual, las críticas, los temas creativos oscuros ni las pruebas e investigaciones sobre modelos. La BBC dice que aún no está claro qué consideraría exactamente la empresa un comportamiento cruel o abusivo hacia sus modelos.
La actualización de la política también prohíbe usar Claude para campañas engañosas y aclara una restricción sobre su uso para engañar a los votantes o perturbar el desarrollo de las elecciones, informa la BBC.
Inicia sesión para votar positiva o negativamente este artículo.
Acerca de este debate y las preguntas a la IA
Debate de prueba privado. Los comentarios expresan las opiniones de los lectores y todavía no se verifican automáticamente. Se pueden editar durante los 60 segundos posteriores a su publicación.
La ordenación se aplica a los comentarios principales; las respuestas se mantienen de más antiguas a más recientes. Los nuevos comentarios y los «Me gusta» pueden cambiar el orden. Actualiza la página para ver la clasificación actual.
Cargando los comentarios…