El código de computadora se ve en una pantalla sobre una bandera china en esta foto de ilustración del 12 de julio de 2017.
Thomas White | Reuters
BEIJING – Las autoridades chinas planean restringir la forma en que las empresas usan algoritmos para vender productos a los consumidores, una medida que, según los analistas, probablemente va en contra de los intereses comerciales y sienta un precedente para otros países.
Las empresas de tecnología más grandes de China, desde el gigante del comercio electrónico Alibaba hasta el propietario de TikTok, ByteDance, han construido sus negocios multimillonarios en algoritmos que ofrecen contenido en el que es más probable que un cliente gaste dinero o tiempo, según los registros de visualización anteriores.
El regulador de ciberseguridad cada vez más poderoso el viernes publicó un borrador de reglas de gran alcance para regular el uso de estos llamados algoritmos de recomendación. La propuesta está abierta a comentarios hasta el 26 de septiembre, sin una fecha de implementación especificada hasta el momento.
Las innovadoras reglas podrían provocar un choque entre los gigantes tecnológicos de China, que han estado sujetos a una mayor regulación en los últimos 10 meses, y Beijing, que ha tratado de controlar su poder.
Y las reglas de los algoritmos de China serán observadas de cerca por otros países y firmas de tecnología de todo el mundo para ver cómo podrían afectar los modelos comerciales y la innovación, dijeron analistas.
«Las empresas van a tener mucho que decir sobre esto porque tiene el potencial de reestructurar los modelos comerciales», dijo a CNBC Kendra Schaefer, socio de la consultora Trivium China con sede en Beijing.
Las reglas también han planteado preguntas sobre cómo se hará la aplicación y qué tan intrusivos podrían tener que ser los reguladores para lograr que las empresas cumplan con estas reglas.
Que dice el borrador
Estos son algunos de los puntos clave del borrador de las reglas:
- Las empresas no deben configurar algoritmos que empujen a los usuarios a volverse adictos o gastar grandes cantidades de dinero.
- Los proveedores de servicios deben notificar a los usuarios de manera clara sobre los servicios de recomendación algorítmica que brindan.
- Los usuarios deben tener una forma de desactivar los servicios de recomendación algorítmica. Los usuarios también deben tener una forma de elegir, revisar o eliminar las etiquetas de usuario utilizadas para el algoritmo de recomendación.
- Cuando se utilizan algoritmos para comercializar bienes o prestar servicios a los consumidores, la empresa que los respalda no debe utilizar el algoritmo para realizar una diferenciación «irrazonable» en términos de precios o condiciones comerciales.
- Cualquier violación de las reglas podría acarrear a las empresas multas de entre 5.000 y 30.000 yuanes (773 y 4.637 dólares).
Estas reglas propuestas se producen cuando el gobierno chino ha intensificado su regulación sobre los gigantes tecnológicos de cosecha propia en el último año, principalmente en nombre de tomar medidas enérgicas contra las prácticas monopolísticas y aumentar la protección de datos.
El miércoles, un nuevo ley de seguridad de datos tomó efecto. A ley de privacidad de datos personales entrará en vigor el 1 de noviembre.
Cómo se vería la aplicación
Los algoritmos de recomendación están formados por código que se alimenta con información específica sobre los usuarios para ayudar a proporcionar información más personalizada. resultados. Si está en un sitio de comercio electrónico, es probable que algunos de los elementos que vea en la página de inicio estén allí debido a sus hábitos de navegación o compras.
Pero el código del algoritmo no es algo que se haga público y que podría dificultar la aplicación. Como mínimo, podría requerir que los reguladores inspeccionen el código de las empresas detrás de los algoritmos.
«No se puede llevar a cabo una regulación algorítmica sin mirar el código», dijo Schaefer de Trivium China.
Las autoridades llevarán a cabo «evaluaciones de seguridad» de algoritmos e inspección de los servicios de recomendación, de acuerdo con el borrador de las reglas. Las empresas deben cooperar y proporcionar cualquier soporte técnico o de datos necesario.
Eso le daría a los reguladores en China un poder enorme.
Pero también presenta algunos desafíos.
«En primer lugar, se necesita la capacidad técnica para hacer esto … También se necesita el proceso burocrático para hacerlo. Todo eso tiene que ser resuelto y aún no se ha hecho», dijo Schaefer.
Esta intrusión podría provocar un choque entre los gigantes tecnológicos y los reguladores de China.
«Estoy seguro de que hay problemas con los derechos de privacidad con las empresas … que [the code] es información de propiedad «, agregó Schaefer.
Ninguna de las empresas tecnológicas chinas contactadas por CNBC hizo comentarios inmediatos sobre el borrador de las reglas, y dos indicaron que es demasiado temprano en el proceso para evaluarlas. El regulador de ciberseguridad no respondió de inmediato a una solicitud de CNBC de comentarios sobre el alcance de la implementación o el impacto en la innovación.
¿Cambios en el modelo de negocio?
Muchos de los gigantes tecnológicos de China no están ganando dinero directamente con sus algoritmos. En cambio, se utilizan para dirigir a los consumidores a los productos. Por ejemplo, es posible que esté viendo videos en una aplicación y luego obtenga contenido similar recomendado. Una empresa lo monetizaría a través de la publicidad o incluso logrando que usted compre cosas.
Las últimas reglas podrían tener el potencial de obligar a las empresas a cambiar sus modelos comerciales, pero no está claro en qué medida.
«El jurado aún está deliberando sobre las implicaciones para las operaciones y las ganancias», dijo Ziyang Fan, director de comercio digital del Foro Económico Mundial.
“Depende de una serie de factores, como el nivel de aplicación y las reacciones del mercado: cuántos usuarios elegirían ‘desactivar’ [the] algoritmo de recomendación si eso conducirá a una experiencia de usuario subóptima, como recibir videos de gatos cuando eres un aficionado a los perros ”, dijo en un correo electrónico.
«Si vemos una caída significativa en indicadores como DAU [daily active users] y las tasas de retención, entonces las implicaciones para las ganancias también podrían ser significativas «, dijo, y señaló que las empresas de medios sociales pueden ver más el impacto, mientras que las compras en línea y los servicios de transporte» probablemente no tanto «.
Donde se encuentra el resto del mundo
A medida que crece la intersección entre la tecnología y la vida cotidiana, los países y regiones de todo el mundo buscan cada vez más formas de regular las tecnologías y las empresas que las venden.
Eso ha resultado en diferentes enfoques, hasta ahora. En el área de algoritmos, China se centra específicamente en la función de recomendación de la tecnología, mientras que EE. UU. Y la Unión Europea están discutiendo leyes más amplias sobre inteligencia artificial.
A principios de este año, la Unión Europea emitió un proyecto de ley llamado Ley de Inteligencia Artificial con el propósito de facilitar «el desarrollo de un mercado único para aplicaciones de IA legales, seguras y confiables» e impulsar la innovación en el espacio.
La ley tiene «requisitos específicos que tienen como objetivo minimizar el riesgo de discriminación algorítmica».
Pero hay una serie de diferencias con las reglas del algoritmo de China.
Fan, de WEF, dijo que la UE sigue un «enfoque basado en el riesgo», mientras que las reglas de China «no diferencian los niveles de riesgo y se aplican a todo uso de la tecnología de recomendación de algoritmos». Eso puede cubrir una amplia gama de industrias, desde la entrega de alimentos hasta la educación.
Y las reglas de China «apuntan a los algoritmos directamente al nivel del usuario y del producto», como la capacidad de los usuarios para apagar el algoritmo, como se establece en las reglas propuestas, agregó Fan.
Una vez promulgada, la ley china sobre algoritmos será vigilada de cerca en todo el mundo mientras las autoridades intentan averiguar cómo regular la tecnología en el futuro.
«Esto va a establecer un ejemplo global», dijo Schaefer. «Las empresas tecnológicas en el extranjero verán cómo las empresas tecnológicas chinas obtienen o no ganancias dadas estas restricciones sobre los algoritmos. Si cambian los modelos comerciales, si pueden tener éxito a pesar de la regulación sobre el proceso algorítmico, hay muy pocas excusas para … gobiernos extranjeros. no hacer lo mismo «.
«Si fracasan y no son tan rentables y los accionistas están decepcionados, eso también es malo», dijo. «Eso refuerza el argumento de que no se puede implementar una regulación algorítmica sin efectos perjudiciales para la innovación».
