nueva página del texto (beta)
Español (pdf)
Articulo en XML
Traducción automática
Citado por SciELO 
Citado por Google 
Similares en
SciELO 
Similares en Google 
Permalink
El 25 de octubre de 2021, se publicó la ley de reforma constitucional que modificó el artículo 19, número 1, de la Constitución Política de la República, «para establecer el desarrollo científico y tecnológico al servicio de las personas». La tramitación de esta reforma constitucional tuvo su origen en una moción de los senadores Guido Girardi, Francisco Chahuán, Juan Antonio Coloma y Alfonso de Urresti y de la senadora Carolina Goic 1 , dirigida a proteger constitucionalmente «la integridad y la indemnidad mental con relación al avance de las neurotecnologías».
Según la moción, la necesidad de abordar esta materia directamente en el catálogo de derechos fundamentales respondía al avance de las denominadas neurotecnologías 2 y los riesgos e impactos que esto podía conllevar para los derechos humanos, concluyendo que resultaba menester consagrar un nuevo derecho a la neuroprotección, anclado en la dignidad humana. Se buscaba que esta nueva garantía constitucional presentara una «textura abierta», correspondiendo al legislador su desarrollo y delimitación, sin perjuicio de contar con el resguardo otorgado por la acción constitucional de protección.
La referida reforma constitucional agregó al artículo 19, número 1, de la Carta Fundamental, el siguiente nuevo párrafo final:
El desarrollo científico y tecnológico estará al servicio de las personas y se llevará a cabo con respeto a la vida y a la integridad física y psíquica. La ley regulará los requisitos, condiciones y restricciones para su utilización en las personas, debiendo resguardar especialmente la actividad cerebral, así como la información proveniente de ella.
Sobre la idea de legislar esta materia
La historia legislativa da cuenta de que sus fundamentos y supuestos surgen de un breve artículo publicado en la revista Nature (2017) y cuyo mayor promotor fue el científico Rafael Yuste. El documento, suscrito por un grupo de científicos, se titula «Four ethical priorities for neurotechnologies and AI» y se centra en ciertas áreas de preocupación en torno a la interfaz cerebro-computadora, la inteligencia artificial (IA) y las neurotecnologías, tendiente a garantizar el respeto y la preservación de «la privacidad, la identidad, la agencia y la igualdad de las personas» (Yuste y otros, 2017: 162-163). Las consideraciones y razonamientos contenidos en este artículo académico son relevantes porque el proyecto de reforma constitucional los hace suyos, sirviendo de base para aquella propuesta. Por consiguiente, resulta relevante formular algunas observaciones en torno su contenido.
En primer lugar, respecto a las áreas prioritarias de acción identificadas, si bien coinciden con aquellos elementos que la doctrina jurídica pone en relieve al momento de reflexionar sobre los riesgos que trae aparejado el desarrollo de la IA, y que dicen relación, principalmente, con el resguardo de la privacidad y la autodeterminación de los individuos, así como a reducir los riesgos de discriminación, 3 el documento no logra abordar con suficiente detalle aspectos relativos a la justificación teórica o demarcación normativa de dichas acciones ( Ienca, 2021 : 44). 4
Por otra parte, llama la atención el escaso desarrollo del artículo en torno a los problemas que se derivan de la existencia de sesgos en los sistemas de IA. Sabido es que las sociedades cargan una serie de sesgos, de manera tal que, cuando se recogen datos concernientes a individuos específicos o a grupos más amplios, hay sesgos incrustados en dicha información.
Se debe tener presente además que las tecnologías de IA pueden «reproducir los sesgos de los datos históricos utilizados para su entrenamiento» ( Veale y Binns ,2017 : 1). Pese a lo anterior, el artículo no explica cómo estos sesgos pueden impactar en los desarrollos neurotecnológicos, ni hace referencia a ciertos rasgos especiales o peculiaridades que pueden justificar un tratamiento diferenciado de este fenómeno en el ámbito de las neurotecnologías con componentes de IA, más allá de las soluciones que puedan resultar aplicables a la generalidad de los mecanismos de decisiones automatizadas.
En lo que respecta a la actividad cerebral y las neurotecnologías, las cuestiones que el artículo llama a abordar revestirían, por ahora, un carácter especulativo o carente de suficiente especificidad, que no justificaría la promoción de una respuesta regulatoria específica y a este nivel. Ciertamente, si bien el artículo advierte que los avances tecnológicos «hacen que estemos en camino hacia un mundo en el que será posible descodificar los procesos mentales de las personas y manipular directamente los mecanismos cerebrales», sus autores sostienen que podrían pasar años o incluso décadas hasta que la interfaz cerebro-computadora y otras neurotecnologías «formen parte de nuestra vida cotidiana». En el plano local, expertos chilenos en el ámbito de las neurociencias son claros en señalar que los avances de la neurotecnología son incipientes, siendo necesario que existan efectivamente «situaciones reales y no hipotéticas sobre las cuales legislar». 5 Asimismo, se afirma que la protección de la vida mental de las personas no puede basarse en «una simplificación de la ciencia y reducir a esa persona a una parte de su cuerpo». 6
Inflación normativa y erosión de derechos
La reforma constitucional, que busca proteger a los ciudadanos frente a peligros indeterminados o meramente eventuales que no pueden ser todavía suficientemente delimitados o conceptualizados de manera concreta, daría cuenta de una tendencia que puede ser denominada como «inflación normativa», que podría conllevar, en definitiva, la erosión de derechos existentes, vinculados al fenómeno que pretende encarar.
Así, al señalar la moción parlamentaria que dio origen a la Ley 21.383 que su objetivo es la debida protección de la integridad física y psíquica de las personas ante el desarrollo de la neurotecnología, no se hace un análisis respecto a una supuesta insuficiencia del texto original del artículo 19, número 1, de la Constitución para el adecuado resguardo de dicho bien jurídico, máxime si este ofrece una protección amplia e irrestricta a la integridad física y psíquica de las personas.
Por el contrario, el texto original de la referida moción abría la puerta a los abusos propios de la renunciabilidad de los derechos, al poner cierto énfasis en la figura del consentimiento del individuo, a la vez que autorizaba al legislador para limitar tal derecho. En este sentido, podría sostenerse que la propuesta inicial, más que un intento por proteger la integridad física y psíquica de la persona, permitía dar sustento a una cierta flexibilización de las normas relacionadas con estudios y ensayos clínicos. 7
En efecto, el texto original del proyecto de reforma constitucional buscaba agregar a continuación del «derecho a la vida y a la integridad física y psíquica de la persona» contenido en el artículo 19 número 1 de la Constitución, un párrafo del siguiente tenor:
La integridad física y psíquica permite a las personas gozar plenamente de su identidad individual y de su libertad. Ninguna autoridad o individuo podrá, por medio de cualquier mecanismo tecnológico, aumentar, disminuir o perturbar dicha integridad individual sin el debido consentimiento. Sólo la ley podrá establecer los requisitos para limitar este derecho, y los requisitos que debe cumplir el consentimiento en estos casos.
Sea que creamos que la actividad neuronal se trata de un proceso físico o psicológico, en cualquiera de los dos casos resulta indiscutible que dicha actividad se encuentra cubierta por la hipótesis del numeral 1 del artículo 19, pues abarca ambos aspectos («integridad física y psíquica»). En este marco, cualquier intento de un tercero por aumentar, disminuir o perturbar dicha integridad se traduciría en una vulneración de esta garantía fundamental, especialmente si ello se intentara mediante una ley, que adolecería del vicio de inconstitucionalidad al contrariar lo dispuesto por la Carta Fundamental.
Ahora bien, si la misma disposición señalara —como se pretendía originalmente— que «la ley podrá establecer los requisitos para limitar este derecho, y los requisitos que debe cumplir el consentimiento en estos casos», ello hubiera significado necesariamente que el legislador cuenta con la facultad para limitar dicho derecho y, por lo tanto, haría más difícil cuestionar la constitucionalidad de una ley que pretendiera «disminuir o perturbar dicha integridad individual sin el debido consentimiento», al ser la propia Constitución la que contemplaría esa posibilidad.
Durante la tramitación legislativa, el texto originalmente propuesto fue reemplazado prácticamente en su totalidad, dando cuenta de una redacción que, más que innovar sustancialmente en la legislación vigente, viene a reafirmar algunas cuestiones que, sin ser expresamente reguladas, ya cuentan con resguardo jurídico, tales como que el desarrollo científico y tecnológico deba estar al servicio de las personas y llevarse a cabo con respeto a la vida y a la integridad física y psíquica.
Dicho de otro modo: el derecho que se pretendía incluir en el catálogo de garantías fundamentales podía ser perfectamente amparado en el marco de otros derechos esenciales ya existentes. 8
Análisis de los objetivos de esta reforma y de la idoneidad de la nueva norma constitucional para garantizar los bienes jurídicos que se pretenden tutelar
Desde el punto de vista del contenido del nuevo derecho
En la moción de la reforma constitucional, se señala que el derecho a la neuroprotección busca proteger, frente al avance de las neurotecnologías, una nueva dimensión de la dignidad humana, vinculada al «cerebro humano», tanto en su dimensión física como en su potencialidad mental.
Luego, el contenido esencial de este derecho se identifica con cuatro elementos señalados en el documento «Four ethical priorities for neurotechnologies and AI»: primero, el derecho a la privacidad de la información producida por la actividad cerebral, a la cual es posible acceder a través de la neurotecnología (denominado privacy and consent) o protección de los neurodatos; segundo, el derecho a la identidad personal y la autodeterminación (denominado agency), teniendo presente que la neurotecnología abre la posibilidad de anular o alterar la identidad de las personas; tercero, el derecho a la igualdad frente al aumento de capacidad cerebral (denominado augmentation o mejoramiento mental), lo que implicaría la necesidad de regular para evitar la inequidad; y cuarto, el derecho al control de sesgos de los algoritmos (denominado bias) derivados de decisiones adoptadas por máquinas a través de algoritmos de IA.
Puede estimarse que los distintos bienes jurídicos que se pretenden tutelar bajo el amparo de esta reforma constitucional cuentan con un adecuado nivel de protección normativa, tanto a nivel constitucional como legal. Así, en la doctrina nacional se afirma que las garantías constitucionales vigentes (derecho a la vida, a la integridad física y psíquica, a la privacidad, a la protección de datos personales, a la protección de la salud) son estatutos lo suficientemente amplios y reconocidos por la institucionalidad chilena para proveer una protección eficaz de los neuroderechos. En ese sentido, para estos autores, la norma constitucional propuesta resulta, en todos los sentidos, redundante para nuestro ordenamiento jurídico, por cuanto los neuroderechos serían «reconducibles a derechos constitucionales ya asegurados» (Zúñiga-Fajuri y otros, 2021; Zúñiga-Fajuri y otros, 2020).
Por lo demás, la entronización de los neuroderechos en el catálogo constitucional como derechos autónomos podría suponer una dificultad para asociarlos con otros derechos fundamentales —ya reconocidos en la Carta Fundamental— en los tratados internacionales sobre derechos humanos y la demás legislación que los desarrolla, los cuales cuentan, además, con un importante nivel de desarrollo jurisprudencial y doctrinario. 9 Lo anterior implica, en la práctica, que se otorgará a los diferentes aspectos o dimensiones de los neuroderechos un nivel de protección menor, por ejemplo, en cuanto al acceso a vías procesales y remedios idóneos que garanticen su efectivo respeto y resguardo.
En particular, respecto al concepto de neurodato o datos mentales, no podría cuestionarse su identificación con la definición amplia de «dato de carácter personal» (entendido como cualquier información concerniente a una persona natural) contenida en la Ley 19.628, sobre Protección de la Vida Privada, 10 así como con la garantía constitucional del artículo 19, número 4, de la CPR, relativo a la protección de los datos personales. 11 Cabe mencionar, además, que dichos datos revestirían la calidad de datos sensibles, estando sujetos a los niveles más altos de protección contemplados en dicha norma. 12
Desde el punto de vista de la teoría de la legislación
Para establecer la necesidad de iniciar un proceso legislativo, pueden distinguirse consideraciones de ratio legis (esto es, el propósito perseguido por la ley o la razón que justifica su dictación) y de ocassio legis (esto es, las condiciones particulares o la coyuntura histórica que motivan su dictación). Las primeras apuntan a motivaciones de importancia pública para la ciudadanía, que al ser reveladas por el legislador justifican que se desencadene el proceso legislativo. Las segundas son razones circunstanciales, ocasionales, que al ser reveladas a la ciudadanía no tienen más sentido que para el sujeto que las propone.
Teniendo presente lo anterior, las razones vertidas en el proyecto de reforma para reconocer un nuevo derecho fundamental parecen más motivaciones ocasionales, contextualizadas en «casos de laboratorio», desarrollados en los márgenes, más que en razones generales de la ciudadanía. Por consiguiente, no resulta posible vislumbrar con claridad la existencia de una verdadera «razón de ley» que justifique esta reforma constitucional.
Para explicar esta falta de ratio legis, es posible aplicar el esquema de racionalidad o justificación legislativa desarrollado por Manuel Atienza (1997 ), que distingue cinco niveles de racionalidad: lingüística, jurídico-formal, pragmática, teleológica y ética.
En primer lugar, desde el punto de la claridad o capacidad comunicativa de la norma, se aprecia que algunos de los conceptos vertidos en el nuevo derecho constitucional no encuentran correlato en la cultura jurídica nacional, en especial las expresiones «actividad cerebral» o «información cerebral».
Respecto a la coherencia de la norma dentro del ordenamiento jurídico, el nuevo texto constitucional adolece de problemas que pueden afectar su aplicación y compatibilidad con el catálogo de derechos fundamentales al no delimitar adecuadamente su contenido iusfundamental distintivo ni establecer con claridad quién o quiénes son los sujetos obligados a su observancia (solo se refiere de manera genérica al «desarrollo científico y tecnológico»). 13
Luego, puede cuestionarse la posibilidad de que la sociedad logre, en los hechos, adecuarse a lo prescrito por la ley. Al considerar el tipo de prácticas mencionadas en la moción que dio origen a la Ley 21.383, el resguardo que pretende brindar el nuevo derecho puede carecer de efectividad y concreción, por cuanto no se ha ponderado previamente la entidad, cualidad y alcance de los riesgos que pretende abordar. En definitiva, no es posible adecuar un comportamiento a una situación que es (por ahora) especulativa.
En relación con los fines sociales de la norma, al no ser posible delimitar los alcances del derecho en cuestión ni establecer la existencia real y concreta de riesgos —más allá de su mero carácter eventual e indeterminado—, resultará difícil desarrollar un marco legislativo que permita la efectiva tutela de este derecho.
Finalmente, en cuanto a los valores susceptibles de justificación ética que presupone la norma, y teniendo presente que tanto el contexto fáctico como la finalidad del nuevo derecho no encontrarían sustento en la evidencia, se verifica la ausencia de una verdadera justificación social que tenga sentido para la ciudadanía llamada a obedecer la regla.
Conclusión
Puede estimarse que la base teórica que sirve de sustento a Ley 21.383 se funda, a lo menos, en dos tipos de aseveraciones: primero, aquellas compartidas por la comunidad académica, que dicen relación con los riesgos que traen aparejados los sistemas de IA; y segundo, aquellas puramente especulativas que se han integrado a la exposición de motivos de esta reforma constitucional.
Las regulaciones sobre el acaso acarrean los problemas propios de estas prácticas; o no se materializan nunca o lo hacen de una forma completamente diversa a aquella que imaginó el legislador. Por otro lado, reducir la protección legal a una parte del cuerpo parece desatender a la neurociencia en cuanto esta estima que la «mente no está en el cerebro» y el hecho de que buena parte de lo que ocurre en el cerebro está fuertemente determinado por lo que ocurre en otras partes del cuerpo.
Lo anterior, además de dificultar la posibilidad de deslindar el contenido iusfundamental de este derecho, implica la creación de reglas que no son indispensables para el ordenamiento jurídico, y que incluso pueden generar problemas de coherencia regulatoria con cuerpos normativos más arraigados en un sistema determinado.
En definitiva, teniendo presente consideraciones de ratio legis y de ocassio legis, la pertinencia o conveniencia de consagrar constitucionalmente el nuevo derecho a la neuroprotección queda en entredicho, lo que puede conllevar un escenario de «inflación de derechos» 14 que terminaría por erosionar derechos ya reconocidos. 15
Por el contrario, una interpretación progresiva de los derechos ya existentes, que sea neutral tecnológicamente, debiese ser suficiente para lograr una expansión que permita proteger adecuadamente la autonomía e integridad de los sujetos en el contexto del uso de nuevas tecnologías.
