DeepSeek-R1 Safe es el nuevo modelo de IA generativa basado en el modelo R1, como una variante diseñada para reforzar los mecanismos de censura y control en inteligencia artificial. Este es el trabajo conjunto entre HUAWEI y la Universidad de Zhejiang.
El proyecto surge como respuesta a los temas regulatorios y de seguridad que enfrentan los modelos generativos en China, donde es requisito que la IA incluya mecanismos de supervisión en las respuestas que puedan ser sensibles para el país asiático.
¿Qué es lo crítico en el marco regulatorio de la regulación China en materia de IA?
La regulación China llamada “Interim Measures for the Management of Generative Artificial Intelligence Services” la emitió el 13 de julio de 2023 por la Cyberspace Administration of China (CAC) et al.
El reglamento fija reglas sobre contenido, datos, transparencia y supervisión, con el fin de alinear la IA generativa con la seguridad nacional y la estabilidad social. A continuación, una tabla muy resumida de los principales puntos
Nota: Entiéndase que esto no es un análisis del reglamento del gigante asiático, solo es un resumen básico para el contexto de la nueva IA.
¿Qué implica el lanzamiento del modelo DeepSeek-R1 Safe?
El modelo DeepSeek-R1 Safe fue reforzado con funciones y algoritmos avanzados de filtros y supervisión de contenidos. El foco de esto es minimizar respuestas consideradas políticamente sensibles o contrarias a las directrices del gobierno chino.
Según detalla el reconocido medio MarketScreener, R1 Safe cuenta con un enfoque que permite controlar la generación de texto automático mediante:
- Técnicas de entrenamiento seguro
- Mecanismos de detección en tiempo real, previa a la generación de textos.
Bajo esta premisa, la variante de DeepSeek de HUAWEI se alínea claramente con la normativa china, en términos de ciberseguridad y con las políticas de gestión de información digital.
Las tecnológicas chinas muestran interés y avanzan en IA para no quedarse atrás y volverse competitivas en distintos sectores.
La propuesta de Huawei y la Universidad de Zhejiang con DeepSeek-R1 Safe es un modelo que mantiene un balance entre desarrollo tecnológico y cumplimiento de las regulaciones, y para ello:
- Combina innovación tecnológica con cumplimiento normativo.
- Refuerza la seguridad en la generación automática de contenidos.
- Atiende las exigencias éticas y regulatorias sobre IA generativa.
- Responde al contexto de mayor control en el uso de inteligencia artificial.
