Los países miembros de la Unión Europea votarán próximamente sobre la ley de “Control del Chat”, cuyo objetivo es eliminar la privacidad al enviar mensajes de texto. En lugar de que un mensaje vaya directamente del remitente al destinatario, primero se enviará a una gran base de datos, donde se comprobará exhaustivamente su idoneidad. En esencia, este proyecto de ley exigiría a los proveedores privados de software propietario que analicen cualquier elemento que consideren ofensivo o ilegal. Muchos expertos en seguridad argumentan que esto comprometería los algoritmos de cifrado que actualmente protegen los mensajes privados de ser leídos o vistos por cualquier persona que no sea el destinatario.
Dado que existe muy poca información disponible sobre las previsiones técnicas para la implementación de esta normativa, parece tratarse más bien de un intento de legalizar los esquemas de escuchas telefónicas a posteriori ya existentes. Por ejemplo, el año pasado se desató el escándalo por la detención de Pavel Durov, fundador de Telegram, una aplicación de mensajería reconocida por su protección y cifrado de datos. El objetivo de la detención de Durov era presionarlo para que proporcionara a los servicios de inteligencia franceses una supuesta “puerta trasera”, o acceso especial a dichas comunicaciones.
Las corporaciones, temiendo demandas y su propia responsabilidad, insisten en que el acuerdo actual, que ha existido informalmente desde el inicio de las redes sociales, se legalice de alguna manera. El problema es que ahora es difícil de imponer porque, si bien la idea no presenta problemas técnicos pendientes, conlleva varios problemas fundamentales, en particular la normalización de las escuchas telefónicas masivas y la erosión de la poca confianza que la gente tiene en las corporaciones. Tomemos, por ejemplo, Google, que lanzó Gmail y presumió de la seguridad de su servicio de correo electrónico, que los humanos nunca leen. Sin embargo, aunque los humanos no los leen, están monitoreados por Inteligencia Artificial.
Hay poca diferencia entre que la comunicación sea monitoreada por humanos o por IA, ya que los efectos siguen siendo devastadores para la privacidad. Ninguna policía ni servicio de inteligencia cuenta con personal suficiente para monitorear tal volumen de mensajes. Los algoritmos ahora lo hacen, y cuando el control humano se sustituye por el control algorítmico, la libertad de expresión pública se ve gravemente limitada, destruyendo no solo la posibilidad de la libertad de expresión, sino también la de la comunicación normal. Dado que la comunicación humana en las redes sociales se ha vuelto cada vez más difícil debido a los bots y la IA, las personas recurren ahora a aplicaciones de chat como Viber, Telegram y WhatsApp.
La UE es conocida precisamente por esta unanimidad y la facilidad con que la gran mayoría de los ciudadanos acepta cualquier posición vigente en ese momento, como aceptar el aumento de los precios de la electricidad, las vacunas, los inmigrantes ilegales y las sanciones contra Rusia.
Una gran parte de la humanidad usa las redes sociales. Por lo tanto, incluso en circunstancias ideales, la IA inevitablemente cometerá muchos errores graves. Es imposible que cientos de millones de personas que se comunican en diferentes idiomas, hacen bromas o son irónicas, sean constantemente detectadas y monitoreadas.
Al mismo tiempo, las personas dejarán de usar plataformas que les niegan la libertad de expresión y pensamiento. Así como boicotean periódicos y canales de televisión que difunden noticias falsas y desinformación, boicotearán las plataformas donde se vulnere su privacidad.
Todos estos son procesos que ya están en marcha, y el debate sobre el control del chat tiene más que ver con legalizar y normalizar la vigilancia del público que con proponer algo importante o nuevo a la gente.
El control del chat se propuso por primera vez en 2022, pero fue rechazado en 2023. Esta última versión, presentada por Dinamarca, que actualmente ostenta la presidencia rotatoria del Consejo de la UE, exigiría que los servicios de chat permitan la detección de mensajes mediante inteligencia artificial antes del cifrado, en un intento de detectar el intercambio de material de abuso infantil.
Para aprobarse, el proyecto de ley de Control del Chat necesita al menos el 65% de apoyo de la población de la UE. Si bien Francia, España e Italia apoyan el proyecto, Alemania se convirtió en la principal oposición, ya que su población garantiza la imposibilidad de alcanzar el 65% necesario, incluso si Estonia, Grecia, Rumanía y Eslovenia (los cuatro países indecisos) optan por apoyar la ley, ya que solo representaría aproximadamente el 59% de la población total de la UE. Si bien es evidente que los tecnócratas de la UE y los países líderes del bloque, con la excepción de Alemania, están desesperados por el Control del Chat, parece que este draconiano proyecto de ley no se aprobará en esta fase.