BLOG

Los proyectos de ley para regular el marco legal de la inteligencia artificial en Brasil son pasos clave para establecer límites públicos y garantizar derechos mínimos en el uso de estas tecnologías.
Ergon Cugler

Imagina que vives en un edificio. Pero no elegiste al administrador ni conoces al conserje con quien compartes los pasillos. Todas las normas del condominio, desde el encendido de las luces, el funcionamiento de los ascensores, el uso de las cámaras de seguridad y la distribución del agua, están definidas por una empresa extranjera que nunca has conocido en persona. Esta empresa recopila datos sobre tus hábitos: a qué hora sales, con quién hablas en el ascensor e incluso si dormiste bien, basándose en el patrón de tu roce con el pomo de la puerta.

Un día, descubres que toda esta información, incluyendo datos íntimos, terminó en manos de una farmacia que decidió comprar tu «perfil». Tus horarios, tus conversaciones, tu rutina, incluso fotos tuyas, todo fue filtrado, comercializado o utilizado en decisiones que nunca autorizaste. Un vecino te cuenta que recibió un anuncio extraño de medicamentos, basado en la información de su refrigerador inteligente. Y desde hace semanas, alguien en el condominio comenta que el «algoritmo» predijo que no pagarías la renta del mes siguiente.

Estás indignado, y con razón. Seguramente pensarías en llamar a la policía, emprender acciones legales, solicitar una junta de vecinos, exigir tus derechos. Pero nada de eso es posible en este edificio.

El administrador del edificio vive en otro país, porque en realidad es un supervisor que gestiona docenas de edificios a la vez mediante un «algoritmo». Y, por contrato, la empresa que lo gestiona todo no está sujeta a las leyes locales. No puede ser citada aquí, no asiste a las reuniones y solo se comunica mediante notificaciones del chatbot de la aplicación.

Lo que podría ser un episodio más de Black Mirror no dista mucho de lo que ya ocurre en nuestras vidas gracias a los sistemas de inteligencia artificial (IA) operados por las grandes empresas tecnológicas. Ya regulan lo que vemos, lo que consumimos, lo que creemos elegir. Y lo más grave es que esta regulación no la lleva a cabo ningún organismo público o democrático; se realiza de forma privada, opaca y remota.

La IA ya está regulada por quienes la controlan

Plataformas como OpenAI, Meta, Google y Microsoft toman decisiones constantemente sobre lo que sus sistemas pueden y no pueden hacer. Definen, por sí mismas, qué se considerará peligroso, inaceptable, verdadero o inexacto. Con base en criterios opacos, deciden qué contenido gana visibilidad y cuál se ocultará, qué usos están permitidos y cuáles deben bloquearse. Estas son decisiones de gran impacto, tomadas de forma centralizada, sin ningún proceso democrático. No se someten a consulta pública, no están sujetas a la legislación brasileña y no tienen en cuenta los contextos culturales, sociales y económicos de nuestro país.

Estas empresas a menudo afirman que siguen pautas éticas y que la tecnología se utiliza de forma responsable. Sin embargo, la gobernanza real de estas plataformas es limitada. Crean consejos asesores de ética y responsabilidad, pero con un poder ficticio, a menudo meramente simbólico. Publican informes de impacto, pero estos documentos son elaborados por ellos mismos, con poca transparencia en cuanto a la metodología y sin mecanismos de auditoría independientes por parte de la sociedad civil o las autoridades reguladoras locales.

Si bien algunos aún asocian la regulación de la inteligencia artificial por parte del Estado con ideas como la censura, obstaculizar o limitar la innovación, lo cierto es que la IA ya está siendo regulada. Está moldeada por quienes la diseñan, quienes la financian y quienes definen sus parámetros técnicos, comerciales y éticos. En la práctica, es como vivir en un condominio bajo leyes creadas por extranjeros, sin voz, sin voto y sin posibilidad de recurso.

La regulación legal no es suficiente; se necesita inversión en infraestructura

El contrato firmado entre Microsoft y el Gobierno Federal de Brasil entre el 26 de octubre de 2023 y el 31 de enero de 2025 ascendió a R$1.272.555.777,49 (unos 230 millones de dólares). Este monto se refiere únicamente a lo pagado por el Poder Ejecutivo, sin considerar contratos de otras entidades, el Ministerio Público y otras instituciones públicas. Esta inversión se destinó, en parte, a la contratación de servicios de computación en la nube, una infraestructura crítica que a menudo sirve de base para el funcionamiento de los sistemas que median en la prestación de servicios para políticas públicas. En otras palabras: si no pagamos la renta con los impuestos recaudados, las políticas públicas podrían verse perjudicadas, ya que servicios como el de Microsoft son los que median la posibilidad de ofrecer estas políticas públicas en el país.

Para agravar aún más la situación, el gobierno brasileño, a través de su ministro de Hacienda, Fernando Haddad, presentó a principios de mayo de 2025 una propuesta para eximir de impuestos a las grandes tecnológicas de la construcción de centros de datos en Brasil. Es como si, además de pagar el altísimo alquiler por vivir en un edificio que no nos pertenece, también defendiéramos un generoso descuento en el impuesto predial para el propietario. En la práctica, seguimos sin tener acceso a las llaves, sin poder de decisión y, además, beneficiando a quienes se benefician de nuestra dependencia.

Este contrato, entre muchos otros con grandes tecnológicas, revela la profunda dependencia tecnológica de Brasil. Estamos pagando un alto precio por tecnologías que no desarrollamos, que no controlamos y que, a menudo, no responden a nuestros intereses sociales, económicos o estratégicos. Se trata de una relación asimétrica en la que el país actúa como un cliente pasivo, mientras que las decisiones técnicas y comerciales se siguen tomando en el extranjero.

En vista de este escenario, la regulación es urgente e innegociable. Proyectos de ley como el 2630/2020, que busca responsabilizar a las plataformas digitales, y el 2338/2023, que regula el marco legal de la inteligencia artificial en Brasil, son pasos clave para establecer límites públicos y garantizar derechos mínimos en el uso de estas tecnologías. Sin embargo, es importante destacar que esto es solo una parte del camino, no el punto final. Regular el uso de IA, mayoritariamente extranjeras, en Brasil es como monitorear lo que otros hacen en nuestro patio trasero.

Sin embargo, lo que queremos es mucho más que eso. Queremos nuestro propio edificio, con un diseño arquitectónico basado en nuestra realidad. Queremos un centro de datos brasileño sostenible, una inteligencia artificial brasileña y plural, ciencia y tecnología con financiación continua, centrada en nuestras necesidades y valores. No solo IA de Estados Unidos ni de China. Lo que necesitamos es soberanía tecnológica con inversión en infraestructura, para que Brasil no sea solo un cliente o una colonia digital, sino protagonista de su propia transformación. De lo contrario, ¿cuál será el próximo ajuste de rentas?

Latinoamérica21, junto con The Conversation Brasil, Brasil de Fato y otras plataformas aliadas impulsamos, en colaboración con la Red Nacional de Combate a la Desinformación (RNCD) de Brasil, el Ibict y el ICIE, la difusión de contenidos que promuevan una ciudadanía más informada y crítica, para enfrentar la desinformación, una amenaza creciente para la democracia, la ciencia y los derechos humanos.

Ergon Cugler es licenciado y posgraduado por la Universidad de São Paulo (USP) y tiene una maestría en administración pública y gobierno por la Fundación Getulio Vargas (FGV). Es asociado del programa de posgrado de la Universidad de Barcelona. Investigador del CNPq vinculado al Laboratorio de Estudios sobre Desorden de la Información y Políticas Públicas (DesinfoPop/FGV).

Ergon Cugler

Licenciado y posgraduado por la Universidad de São Paulo (USP) con maestría en administración pública y gobierno por la Fundación Getulio Vargas (FGV). Asociado del programa de posgrado de la Universidad de Barcelona. Investigador del CNPq vinculado al Laboratorio de Estudios sobre Desorden de la Información y Políticas Públicas (DesinfoPop/FGV).

LATINOAMERICA 21