La circular dicatada por el SERNAC instruye a las empresas que utilicen sistemas basados en IA a que
El Servicio Nacional del Consumidor (SERNAC) ha dictado una circular interpretativa que busca poner al día en materia de derechos de los consumidores a las empresas que utilicen sistemas basados en inteligencia artificial (IA), esto con el fin de establecer principios y evitar riesgos con el uso de estas herramientas.
El organismo advierte que el uso de inteligencia artificial pueden traer problemas asociados a las asimetrías de información y del poder de negociación, los cuales pueden traer como consecuencia la ausencia de transparencia, la generación de resultados arbitrariamente discriminatorios, riesgos de abuso y manipulación, y el inadecuado manejo de datos personales.
Por esto, los lineamientos entregados por el SERNAC instruye a las empresas en cinco puntos relevantes:
El primer punto hace referencia a la entrega de información clara y efectiva por parte de la empresa respecto a los objetivos y usos de estos sistemas de IA.
Por otro lado, el segundo punto apunta al limitar el poder persuasivo que pueden tener estas herramientas a la hora de realizar recomendaciones de consumo (como por ejemplo, el uso de algoritmos para anticipar las preferencias de los consumidores) y la explotación de los sesgos de comportamiento de estos; mientras que el tercero busca que estos sistemas presenten estándares adecuados de precisión, fiabilidad y efectividad técnica para que los resultados entregados no perjudiquen de alguna manera al usuario.
En cuanto al cuarto punto, como su nombre lo dice, busca evitar que exista algún tipo de discriminación arbitraria realizada por estas herramientas. Estas pueden ser cualquier tipo de distinción, exclusión o restricción que carezca de algún tipo de justificación razonable o que atente contra la dignidad del consumidor.
En efecto, se menciona que los riesgos de la IA en este aspecto tienen que ver, en primera instancia, con los modelos, los cuales si llegan a ser entrenados con información errónea o desactualizada de una persona, podría derivar en perfiles de usuario equivocados. Esto se complementa con el hecho de que se pueda generar algún tipo de discriminación de precios debido a la capacidad de estos sistemas de generar perfiles únicos y personalizados; entre otros más.
Finalmente, el quinto punto obliga a las empresas a informar a los consumidores sobre el uso de sus datos, sus bases legales, y pedir su consentimiento previo al uso de estos. Además, exige que estos deben estar siempre actualizados, y, en caso de ser solicitado por el titular, ser eliminados y cancelados.
Adicional a todo esto, la circular emitida por el SERNAC también dictamina que las empresas deben informar cuando los usuarios están interactuando con una persona o con un sistema de inteligencia artificial.
