Caracas, 11 de marzo de 2024 (Prensa Suscerte/Maya Cabezas).- Investigadores venezolanos alertan que implementaciones de la inteligencia artificial no solo cambiarán lo que hacemos, sino nuestra identidad y todas nuestras relaciones humanas.
El 23.° aniversario de la Superintendencia de Servicios de Certificación Electrónica (Suscerte), ente adscrito al Ministerio del Poder Popular para Ciencia y Tecnología, abrió las puertas para que un trío de especialistas reflexionaran acerca de las implicaciones de la inteligencia artificial (IA) en la soberanía y en la seguridad de los pueblos, y sobre las reinvenciones del capitalismo de la vigilancia.
Durante el foro «Ciencia de datos, inteligencia artificial e implicaciones para la seguridad informática», realizado en los espacios de la Universidad Nacional Experimental de las Telecomunicaciones e Informática (Uneti), el actual responsable de Suscerte, Carlos Parra, subrayó que «la ‘revolución’ de la inteligencia artificial, más que tecnológica, es cultural; es decir: estamos hablando del accionar del ser humano y de su subjetividad. De ahí, la necesidad de poner sobre la mesa algunos principios éticos».
En su exposición, este investigador caraqueño afirmó que, bajo la fachada de «una mejor experiencia en la navegación», las grandes corporaciones informáticas ejercen minería de datos, no solo para enriquecer «su bolsillo», sino para el control de las subjetividades, al concentrar el poder derivado del conocimiento de los datos de los pueblos: «No nos pagan por darles nuestros datos, pero nos cobran por utilizar las aplicaciones que utilizan nuestros propios datos. ¡Son negocios de grandes empresas trasnacionales!», explicó.
Parra detalló que los sitios web por medio de los cookies nos quitan datos (básicamente, desde la dirección IP, nuestra ubicación geográfica, hasta los sitios por donde navegamos). «¿De dónde se obtiene toda esa información que utilizan las implementaciones de la inteligencia artificial no generativa que recogen de grandes contenedores de datos? Pues vienen de nosotros, los que utilizamos los sitios web», apuntó.
En este sentido, aclaró que los resultados de la IA están atados a los datos que producen el resultado. «Los algoritmos que están dentro de una implementación de IA son líneas de fuego, que responden a una mente humana que las desarrolla (hablando de la IA generativa), conectada a miles de redes interconectadas, que hacen uso de esa minería de datos para proporcionar resultados. Si los datos, desde el principio, están sesgados, los resultados serán sesgados. Si los datos responden a una tendencia política, económica, social, religiosa, los resultados responderán a esa parcialidad política, económica, social, religiosa».
En su intervención, el investigador aseveró que, además de la amenaza que representa la nueva gobernanza del capital, estamos llegando a un punto de mayor vulnerabilidad: «En vez de programar un sistema basado en inteligencia artificial, ahora utilizamos la inteligencia artificial para que programe inteligencia artificial. Esa práctica es, ciertamente, muy peligrosa, no solo porque hay cosas que la mente humana no debe delegar»; sino porque, al hacerlo, quedamos más expuestos a la intencionalidad de dominación que atraviesa, estructuralmente, a la racionalidad moderna/colonial/capitalista.
El superintendente de Servicios de Certificación Electrónica recordó que la tecnología no es neutra, ya que ella atiende a los intereses y a la cosmovisión de quien la desarrolla. «Las implementaciones de inteligencia artificial responden a los intereses de las corporaciones que las desarrollan y que minan esos datos que nos piden». En ese sentido hizo un llamado a tomar el control del desarrollo de estas tecnologías y orientarlo a nuestras necesidades, a nuestra racionalidad y visión del mundo.
Data, lingote del siglo XXI
En concordancia con lo expresado por el Superintendente Carlos Parra, el director del Centro de Investigación en Ciberseguridad Lazarus, Julio Baudi, advirtió que «la data es el lingote del siglo XXI: las transnacionales de las tecnologías simplemente toman nuestros datos y los venden. Reciclan nuestros datos una y otra vez. ¡Esa es la moneda de oro de hoy!».
Para este experto, hoy, todo se mueve con base en la información. En este escenario, las aplicaciones de IA se han convertido en una especie de acopio de estos datos que son usados por el gran capital para sus intereses.
«Ya hay vulnerabilidades basadas en las redes neuronales en las que se basan estas implementaciones de IA. Hoy, se habla de ‘ataques adversarios’, que están orientado a un punto de vista de la IA. Se trata de una manipulación aplicada a cualquier tipo de dato de entrada que se suministra a la red neuronal para entrenarla a que se parcialice por cierta forma de responder y por ciertas ideologías y metodologías. Esta forma de operar representa una vulnerabilidad para la ciberseguridad y la soberanía de los pueblos», precisó Baudi.
El desafío de la conciencia frente a los ardides capitalistas
En tanto, el especialista del Centro Nacional de Informática Forense Junior Sumosa precisó que cada persona debe asumir una conciencia informada sobre las implicaciones de su huella digital, de sus datos, de la imagen que deja en el metaverso.
«Si pensamos ingenuamente que la tecnología que usamos es neutra y que todos nuestros datos están seguros porque así nos dijeron, eso puede tener consecuencias durísimas en nuestra soberanía y en nuestra vida cotidiana. No solo se trata del tema de la ciberseguridad; más allá, debemos ver cuáles son los determinantes psicosociales que conlleva el uso de esta tecnología y cómo cambian nuestra identidad», destacó.
De este debate, auspiciado por Suscerte, surgen algunas temáticas de investigación y reflexión: IA, sujetos, identidades y dilemas éticos; responsabilidades en el uso de las tecnologías de información; políticas, regulaciones y legislaciones sobre los posibles impactos del uso de la IA generativa; la lógica del paradigma de la ‘revolución de la inteligencia artificial; la disputa entre las necesidades imperiales y las verdaderas necesidades humanas, en un planeta en fase de agotamiento como consecuencia de un modelo hegemónico que destruye las condiciones de vida. Temas a meditar, como parte del debate nacional de las 7 Transformaciones, planteadas por el presidente Nicolás Maduro, para avanzar hacia la independependencia plena.
