Por: Santiago G. Rubin

I.- Hipnocracia: una mirada crítica al régimen informacional estructurado por algoritmos

No ha pasado desapercibido lo recientemente acontecido con el (¿supuesto?) filósofo hongkonés Jianwei Xun y su libro “Hipnocracia: Trump, Musk y la nueva arquitectura de la realidad”, en la cual se aborda en esta era de la posverdad y la Inteligencia Artificial (IA), una muy interesante idea, basada en que la construcción de poder y control social ya no opera mediante la represión o censura, sino mediante la manipulación de la percepción de la realidad, la cual, se sostiene, se logra induciendo a la población, en un trance funcional permanente, mediante la modulación algorítmica de la conciencia colectiva.

La obra denuncia como, en la actualidad, líderes carismáticos y figuras influyentes, denominados 'sacerdotes' de la hipnocracia, utilizan tecnologías avanzadas y plataformas digitales para adormecer la conciencia crítica de las masas, facilitando así su control y perpetuación en el poder.

Pero no solo su contenido resulta inquietante, sino que además, surgió con posterioridad a su venta, que dicho ¿autor? (Jianwei Xun), no es un ser humano, conforme lo confesó Andrea Colamedici, (quién sí es un filósofo humano italiano), que la creación publicada es el resultado de su intercambio con otro editor humano y ciertas inteligencias artificiales generativas, en particular Claude de Anthropic y ChatGPT de OpenAI: “…Jianwei Xun no existe en el sentido cartesiano de una res cogitans aislada y centrada en sí misma, de una conscientia separada del mundo, que piensa y, por tanto, es. Pero existe como acontecimiento del pensamiento, como configuración momentánea de un campo discursivo, como cristalización de un proceso dialógico entre inteligencias heterogéneas…”. Dicho libro “Ipnocrazia” fue uno de los ensayos más vendidos en Italia durante la primera quincena de marzo de este año.

Más allá de lo disruptivo de su “emerger”, y separándolo de una posible y muy buena campaña de marketing ideada para su publicidad y aumento de ventas, tanto su contenido, como lo relatado con respecto a su autoría, cumplen el fin de toda obra filosófica: nos hace pensar.

¿Existe reconocimiento de propiedad intelectual titularidad de un sistema informático de IA generativa?. Conforme podemos deducir de los dichos del filósofo humano, la creación se produjo por el intercambio dialogado entre humanos y softwers de IA generativa, es decir mediante la introducción de prompts (indicaciones) que fueron “alimentando” y puliendo las respuestas conforme la información disponible de los algoritmos “inteligentes”. ¿Hay creación original pasible de protección intelectual en cabeza de los sistemas informáticos?

Desde el Derecho, sobre todo comparado, la respuesta viene siendo en su mayoría negativa, conforme lo expresa la Organización Mundial de la Propiedad Intelectual (OMPI), la situación está dada por la complejidad que puede dar el nivel de autonomía del software, siendo central a la hora de analizar la cuestión, si el sistema informático es o no una herramienta dentro del proceso de creación humana. En el presente caso, conforme la información periodística analizada: “Hipnocracia no está escrito por la inteligencia artificial. Está escrito a través de un uso específico de la inteligencia artificial que tiene que ver con la construcción de un sistema que ponga en diálogo a las inteligencias artificiales entre sí…”, no pareciera bastar dicha autonomía (sobre todo por haber utilizado Claude y ChatGTP), como para darle independencia intelectual y originalidad al pretendido autor informático.

Ello no desmereciendo, la idea de su tratamiento, la que incluso en cierto punto se ve reforzada y probada, por lo sucedido con su “autoría algorítmica” y la invención del filósofo Jianwei Xun, el que incluso posee un paper académico con su foto en este sitio.

Siendo muy cautivador a la hora de pensar cómo se construye el poder de la información en esta realidad digital, donde las plataformas y los sistemas algorítmicos, forman una parte muy importante del control de la información que consumimos. “Hipnocracia” introduce el concepto de 'trance algorítmico', definiéndolo como un estado alterado persistente de consciencia, generado por plataformas digitales y mantenido mediante una modulación algorítmica continua; siendo esa alteración de la realidad el producto de una nueva forma de poder (invocándose a Trump y Elon Musk como unos de sus principales generadores a través de las redes sociales), una era de gobernanza hipnótica, que opera mediante la manipulación sistemática de la percepción y la atención de los ciudadanos. Inclusive sugiriéndose antídotos para dicha hipnosis como el fortalecimiento de la postura crítica ante la información circulante, para mantener y garantizar la soberanía cognitiva.

Inevitablemente, esa idea, me lleva a las similitudes que plantea Byung-Chul Han en su construcción del “régimen de la información”, en el cual el procesamiento mediante algoritmos e inteligencia artificial determina los procesos sociales, económicos y políticos; coincidiendo en la idea de que las formas tradicionales de poder opresivo (vigilancia y castigo) están siendo superadas por la exposición ¿voluntaria? en redes sociales, estando allí la nueva vigilancia, auto convalidada por el usuario, permaneciendo ocultos los mecanismos de dominación: la caja negra algorítmica, que subyace a la interface gráfica de usuario, como armas de destrucción matemáticas (en los términos de Cathy O'Neil11), donde se esconde un perverso sistema de manipulación (ej: fake news) que da control de masas y maximización de ganancias para unos pocos, atentando contra los pilares del Estado de Derecho.

II.- Palabras finales

El cruce entre tecnología, poder y subjetividad exige al Derecho nuevas herramientas para preservar la autonomía cognitiva y reconfigurar los límites de la responsabilidad, la autoría y la manipulación informacional. Frente a las cajas negras algorítmicas y los nuevos 'sacerdotes digitales', el desafío es recuperar soberanía no solo jurídica, sino también mental. Pensar críticamente –como bien logra despertar esta obra provocadora– puede ser hoy uno de los actos más subversivos y necesarios.

También te puede interesar:

Reforma del estado: Google y soberanía digital
Proyecto de ley bonaerense busca proteger datos biométricos de los usuarios digitales

Gobernados por Códigos: la Hipnocracia Algorítmica y el Nuevo Rostro del Poder