Neurotecnología y derecho. Neuroderechos en el ordenamiento jurídico argentino por GASTÓN FACUNDO SALORT, CRISTIAN JAVIER MEDINA 20 de Julio de 2020 www.saij.gob.ar Id SAIJ: DACF200156 "...científicos, compañías y gobiernos aprenden a acceder ilegalmente al cerebro humano..." (Yuval Noah Harari). "Hay alguien en mi cabeza pero no soy yo" (Pink Floyd - Brain Damage). 1. Introducción. Neurociencia, inteligencia artificial y neurotecnología. Se ha definido a la neurociencia como aquella que "estudia la organización y el funcionamiento del sistema nervioso y cómo los diferentes elementos interactúan y dan origen a la conducta de los seres humanos"(3). Por otro lado, la R.A.E. define a la "Inteligencia Artificial", como la disciplina científica que se ocupa de crear programas informáticos que ejecutan operaciones comparables a las que realiza la mente humana, como el aprendizaje y el razonamiento lógico. En otras palabras, inteligencia artificial es el desarrollo de algoritmos de computación que están basados en los que pensamos que ocurre dentro del cerebro. Neurociencia y tecnología (aplicación de inteligencia artificial a través de algoritmos), conforman lo que se conoce como "neurotecnología", definida como "conjunto de herramientas que sirven para analizar e influir sobre el sistema nervioso del ser humano, especialmente sobre el cerebro." Se ha entendido también a la neurotecnología como cualquier tecnología que hace posible manipular el cerebro. Estas tecnologías incluyen simulaciones de modelos neurales, computadores biológicos, aparatos para interconectar el cerebro con sistemas electrónicos y aparatos para medir y analizar la actividad cerebral. La neurotecnología, pues, ha abierto las puertas a la posibilidad de "manipular el cerebro". Tal es así que, la posibilidad de conectar nuestro cerebro a una máquina puede interferir en las decisiones cotidianas del individuo. Los avances que ha logrado la "neurotecnología" han generado ciertas alertas en cuanto a que un algoritmo podrá ayudar a la toma de decisiones de las personas, lo que arrojaría como resultado que la capacidad para discernir entre distintas opciones o posibilidades pueden encontrarse interferidas por un agente tecnológico externo. Así también, será muy eficiente y exhaustiva (y hasta infinita) la capacidad de recopilar datos personales y cualquier tipo de información desde el ámbito más privado del ser humano, logrando así interpretar los pensamientos. Esta posibilidad de leer el cerebro y, en definitiva, poder mejorar ciertas capacidades humanas, puede generar desigualdades si no existe un acceso equitativo a esta tecnología, como así también un riesgo en generar mayor discriminación en cuanto su uso, ya que se podrían crear cerebros más sofisticados que otros. Ante todo esto, es necesario contar con un régimen normativo que regule el avance y la aplicación de la neurotecnología. 2. Neuroderechos y neurodatos. Es en este sentido que se habla de los "neuroderechos", una serie de nuevos derechos que deben ser regulados. Rafael Yuste, director del Centro de Neurotecnología de la Universidad de Columbia (EE.UU) y quien lidera el Proyecto BRAIN ("Brain Research Through Advancing Innovative Neurotechnologies"), iniciativa
estadounidense que desde 2013 busca comprender el funcionamiento de las redes sinápticas de nuestro cerebro, propone la creación de cinco neuroderechos(4): 1- Derecho a la privacidad mental: La actividad de las neuronas - que son el soporte del pensamiento y mente no deberían ser sacados del cerebro sin el consentimiento del individuo y no se podrían utilizar en forma comercial. 2- Derecho a la identidad personal: Cuando conectemos el cerebro a una interfaz inteligente, es posible que el individuo deje de ser individuo en gran parte. Cuanto más conectados a la red estemos, menos yo seremos y se podría desdibujar la línea entre la conciencia de una persona y las entradas tecnológicas externas. 3- Derecho al libre albedrío: Cuando una persona toma una decisión, lo hace porque así lo quiere. Pero si está conectado a través de lectores de actividad cerebral a una computadora, puede que ésta sea la que tome la decisión, o también alguien conectado a ella y que sea invasivo al cerebro. Por ello, el individuo debe tener el control final sobre su propia toma de decisiones, sin manipulación desconocida de neurotecnologías externas. 4- Derecho al acceso equitativo al aumento de neurocognición: La utilización de algoritmos puede mejorar la actividad cerebral. Este aumento cognitivo no va a ser económico, ni accesible a todos. Por ello, debe ser un derecho humano con acceso equitativo y justo para toda la sociedad. 5- Derecho a la protección de sesgos algorítmicos: Esta conexión puede generar discriminación entre sexos, razas o personas de otro pensamiento político. Asimismo, es el propio Yuste quien ha influido en Chile a los fines de que se convierta en el primer país en regular específicamente los neuroderechos y, particularmente, crear una nueva categoría de datos personales que serían los "neurodatos". De tal calibre resulta la cuestión que la "Comisión de Desafíos de Futuro" del Senado chileno se encuentra trabajando en un proyecto de reforma constitucional a los fines de consagrar la protección constitucional de los neuroderechos y neurodatos(5). Incluso Yuste plantea una regulación muy ambiciosa e innovadora para los neurodatos, la cual consiste en considerarlos "órganos humanos". En palabras de Yuste, "habrá una línea que no se puede cruzar porque quedarían establecidos como los órganos humanos, que se pueden donar y recibir con fines médicos o altruista, pero no comerciales"(6). 3. Análisis de los neuroderechos en el ordenamiento jurídico nacional. 3.1 Derecho a la privacidad mental y a la identidad personal. Dentro de nuestro ordenamiento normativo, la primera consideración que creemos deber tener en cuenta es lo que emana de nuestra Constitución Nacional. El Art. 19 de la Carta Magna dice: "Las acciones privadas de los hombres que de ningún modo ofendan al orden y a la moral pública, ni perjudiquen a un tercero, están sólo reservadas a Dios, y exentas de la autoridad de los magistrados. Ningún habitante de la Nación será obligado a hacer lo que no manda la ley, ni privado de lo que ella no prohíbe". Entendiendo que el derecho a la privacidad emana de dicho artículo, debemos partir entonces que la neurotecnología, en principio y en caso que no se regule su uso, presenta un potencial que puede llegar a vulnerar dicho derecho constitucional. Parece no ser tarea sencilla regular a estos derechos, aunque existen ordenamientos que, en cierta medida, amparan parte de los mismos.
A los fines de ilustrar lo antedicho, tomamos como ejemplo la Ley de Protección de Datos Personales (Ley 25.326) la cual en su artículo primero dispone que: "La presente ley tiene por objeto la protección integral de los datos personales asentados en archivos, registros, bancos de datos, u otros medios técnicos de tratamiento de datos, sean éstos públicos, o privados destinados a dar informes, para garantizar el derecho al honor y a la intimidad de las personas, así como también el acceso a la información que sobre las mismas se registre, de conformidad a lo establecido en el artículo 43, párrafo tercero de la Constitución Nacional." En virtud de lo allí dispuesto, entendemos que quedan comprendidos los derechos a la privacidad mental y a la identidad personal. El cerebro humano es una gran y compleja base de datos que debe ser protegida ante eventuales usos o abusos de los mismos, más allá del posible consentimiento que cada persona pueda dar respecto al uso de esos datos. Aquí encontramos resguardo en el Código Civil y Comercial de la Nación. El Art. 23 de dicho cuerpo normativo dice: "Capacidad de ejercicio. Toda persona humana puede ejercer por sí misma sus derechos, excepto las limitaciones expresamente previstas en este Código y en una sentencia judicial." Consideramos que en lo que respecta al uso de los datos que posee y crea el cerebro humano, debe, en cierta medida, limitarse su uso siguiendo parámetros éticos a fin de evitar que los individuos sean dañados o explotados por quienes manipulan sus datos amparándose en el consentimiento que cada persona pueda otorgar. Aquí reviste gran importancia que los sujetos entiendan y comprendan lo que el uso de la neurotecnología implica en cuanto a posibles riesgos; en este sentido debemos tener en cuenta lo regulado en el artículo 31 del CCCN en cuanto a los principios comunes a la restricción de la capacidad. Los incisos d y f estipulan: "Reglas generales. La restricción al ejercicio de la capacidad jurídica se rige por las siguientes reglas generales: .d) la persona tiene derecho a recibir información a través de medios y tecnologías adecuadas para su comprensión;... f) deben priorizarse las alternativas terapéuticas menos restrictivas de los derechos y libertades...". También resulta interesante tener en cuenta lo que surge de la redacción del artículo 55: "Disposición de derechos personalísimos. El consentimiento para la disposición de los derechos personalísimos es admitido si no es contrario a la ley, la moral o las buenas costumbres. Este consentimiento no se presume, es de interpretación restrictiva, y libremente revocable". La posibilidad de comprensión del uso de la neurotecnología y de las consecuencias que la misma pueda acarrear deben ser plenas. Es decir, quien efectúe el uso de la misma sobre otra persona, deberá tomar todas las medidas necesarias para informar las consecuencias y las tecnologías a aplicar de manera clara, concisa y fehaciente. Asimismo, siendo que gran parte del desarrollo y avance de las neurotecnologías vienen dadas por el sector privado, será importante tener en cuenta las normas que regulan la protección consumeril. En este supuesto, se tornarán de especial importancia las cláusulas que disponen el deber de información para los proveedores. En este sentido, ocupan un rol principal los Arts. 4, 5 y 6 del capítulo II ("INFORMACIÓN AL CONSUMIDOR Y PROTECCIÓN DE SU SALUD") de la Ley 24.240. El Código Civil y Comercial de la Nación también regula el derecho a la disposición del propio cuerpo con limitaciones fundadas en principios bioéticos. Estos dos derechos a la privacidad mental e identidad personal, encontrarían protección en el artículo 52, ya que él mismo refiere: "Afectaciones a la dignidad. La persona humana lesionada en su intimidad personal o familiar, honra o reputación, imagen o identidad, o que de cualquier modo resulte menoscabada en su dignidad personal, puede reclamar la prevención y reparación de los daños sufridos, conforme a lo dispuesto en el Libro Tercero, Título V, Capítulo 1". Aquí el código introduce la posibilidad al damnificado de utilizar las herramientas que propone la teoría del daño y la responsabilidad civil. La utilización del cerebro a través de la neurotecnología podría encontrar un límite o barrera, en pos de
resguardar los neuroderechos, en el Artículo 56 del CCCN: "Actos de disposición sobre el propio cuerpo. Están prohibidos los actos de disposición del propio cuerpo que ocasionen una disminución permanente de su integridad o resulten contrarios a la ley, la moral o las buenas costumbres, excepto que sean requeridos para el mejoramiento de la salud de la persona, y excepcionalmente de otra persona, de conformidad a lo dispuesto en el ordenamiento jurídico. La ablación de órganos para ser implantados en otras personas se rige por la legislación especial. El consentimiento para los actos no comprendidos en la prohibición establecida en el primer párrafo no puede ser suplido, y es libremente revocable". 3.2 Derecho al libre albedrío. En cuanto a éste neuroderecho, no pretendemos ahondar en discusiones y consideraciones filosóficas y/o científicas sobre la noción de libre albedrío, ya que el mismo excede el propósito del presente. A los fines del desarrollo del mismo, entendemos por libre albedrío a la capacidad de optar entre distintas alternativas que se nos ofrecen y/o crear otras nuevas. Nadie ni ninguna ley de la naturaleza puede torcer, en principio, nuestra voluntad. Nos consideramos capacitados para tomar decisiones. Por ello, se encuentra íntimamente vinculado al concepto de responsabilidad (moral, civil, penal, etcétera)(7). La primera impresión que nos genera el concepto de libre albedrío nos lleva a creer, sin estar equivocados, que las libertades al momento de la toma de decisiones son pura y exclusivamente inherentes a las personas y que cualquier acción u omisión que corrompan esas libertades deben ser reprimidas o castigadas. Siempre, la persona que decida líbremente sobre sus actos será responsable de los mismos. Ahora bien, si un individuo está conectado a través de lectores de actividad cerebral a una computadora, puede que ésta sea la que tome la decisión, o también alguien conectado a ella y que esto resulte invasivo a su cerebro. Esto llevaría a que uno de los fundamentos del libre albedrío por el cual nadie, ni ninguna ley de la naturaleza puede torcer - en principio - nuestra voluntad, se vea vulnerado. El Código Civil y Comercial de la Nación nos trae el concepto de libre albedrío en lo que concierne a los contratos en general en su Artículo 958, al decir: "Las partes son libres para celebrar un contrato y determinar su contenido, dentro de los límites impuestos por la ley, el orden público, la moral y las buenas costumbres". Entendemos que la neurotecnología, en el afán de proteger el derecho al libre albedrío como neuroderecho, debería encontrar un límite en una norma similar a la que establece el CCCN. Con la neurotecnología se puede alterar y manipular el cerebro, entrometiéndose en la toma de decisiones del individuo, viéndose afectada de esa manera la noción de acto voluntario que trae nuestro ordenamiento en el Artículo 260 del CCCN: "El acto voluntario es el ejecutado con discernimiento, intención y libertad, que se manifiesta por un hecho exterior." Es más, entendemos que la manipulación del cerebro puede afectar hasta las acciones o decisiones impulsivas, por lo tanto, la regulación del derecho a libre albedrío debe proteger a la totalidad de los actos que se lleven a cabo estando el cerebro conectado a una máquina. En el ámbito del derecho privado no vemos que nuestro ordenamiento proteja de manera eficiente los neuroderechos, por ello creemos conveniente una actualización normativa al respecto. Yuval Noah Harari sostiene que "El relato liberal considera la libertad humana el valor más importante. Aduce que toda autoridad surge en último término del libre albedrío de los individuos humanos, que se expresa en sus sentimientos, deseos, y opciones..." "La autoridad puede cambiar de nuevo pronto: de los humanos a los algoritmos. La revolución tecnológica que se avecina podría establecer la autoridad de los algoritmos de macrodatos, al tiempo que socavaría la idea misma de la libertad individual"(8). "Mientras más crea la gente en
el libre albedrío, que sus sentimientos representan una capacidad mística y espiritual, más fácil resulta manipularlos, porque ellos no van a pensar que sus sentimientos están siendo producidos y manipulados por algún sistema exterior"(9). Teniendo en cuenta lo que este autor nos trae a colación, nos preguntamos ¿hasta dónde debe llegar el ordenamiento jurídico a fin de regular estos neuroderechos? La creación o actualización de normas, parece ser una tarea harto desafiante pero necesaria si pretendemos no perder nuestras libertades como seres humanos. 3.3 Derecho al acceso equitativo al aumento cognitivo. Respecto al derecho al acceso equitativo al aumento cognitivo, se debe tener en cuenta que la tecnología podrá mejorar nuestro cerebro, por ende, el acceso a la misma debería ser equitativo, a fin de evitar desigualdades. El aumento cognitivo implica un cambio radical en la concepción misma de lo que consideramos como "humano". En palabras de Yuste, "Estas tecnologías van a ser muy caras, y sólo ciertos grupos sociales en ciertos países tendrán acceso a ellas. En el caso de las neurotecnologías usadas para aumentar ciertas capacidades sensoriales o cognitivas, queremos evitar una fractura social, donde algunas personas tengan capacidades superiores a otras"(10). A raíz de dicho escenario, creemos necesario el desarrollo de políticas públicas para permitir que todas las personas tengan las mismas posibilidades en el uso de algoritmos en sus cerebros. En palabras de Estanislao Bachrach, el cerebro es como un hardware y la mente como un software, la mente o actividad mental son los pensamientos y emociones que corren por el sistema operativo, que es el cerebro(11). Imaginemos que solo unos pocos puedan acceder a mejorar el cerebro y la mente a través de algoritmos, ello generaría una desigualdad significativa. Creemos que el derecho del trabajo cobrará vital trascendencia en este aspecto, a fin de evitar una posible brecha en el ámbito laboral, entre el individuo común y quienes obtengan un aumento cognitivo. La aplicación de la neurotecnología seguramente tendrá un costo elevado, por lo que esto pone coto a la posibilidad de un acceso igualitario. Quienes estén en una posición económica que le permita su uso, posiblemente lo harán, creando y generando aptitudes distintas y superiores al resto de los individuos. Existe entonces una probabilidad de que se "fabriquen" super humanos. Esto suena a ciencia ficción, es cierto, pero hasta no hace muchos años a nadie se le ocurría, y tan solo lo veíamos en películas, pensar en comunicarse con millones de personas en una milésima de segundo o que un artefacto de no más de 15 cm sea nuestra oficina portátil. En palabras del tecnólogo argentino Santiago Bilinkis, "Hay un paso peligrosamente corto entre que la mejora mental sea posible a que se vuelva "imprescindible"(12) y "...¿cuánta tecnología es demasiado?. ¿En qué punto, con la incorporación de partes no biológicas en el cuerpo y la mente, una persona deja de ser humana?"(13). El derecho no debe ser ajeno a estas cuestiones y si de neuroderechos hablamos, los mismos deberían ser tenidos en cuenta como derechos humanos básicos, los cuales - a fines meramente doctrinarios - podrían ser catalogados como de cuarta generación. Con ello se lograría, al menos, salvaguardarlos en ciertos aspectos y, asimismo, encuadrarlos como derechos fundamentales. De ser así, encontrarían protección en el artículo 1 de la ley 23.592 de "Actos Discriminatorios", el que prevé: "Quien arbitrariamente impida, obstruya, restrinja o de algún modo menoscabe el pleno ejercicio sobre bases igualitarias de los derechos y garantías fundamentales reconocidos en la Constitución Nacional, será obligado, a pedido del damnificado, a dejar sin efecto el acto discriminatorio o cesar en su realización y a reparar el daño moral y material ocasionados.
A los efectos del presente artículo se considerarán particularmente los actos u omisiones discriminatorios determinados por motivos tales como raza, religión, nacionalidad, ideología, opinión política o gremial, sexo, posición económica, condición social o caracteres físicos". El derecho tiene una ardua tarea para evitar que el uso de las tecnologías sea solo para unos pocos, logrando un acceso justo a toda la sociedad. Nuestro desiderátum sería evitar que se agrande la brecha entre clases y evitar una división entre "humanos" y "súper humanos", es decir, aquellos con aumentos cognitivos. 3.4 Derecho a la protección de sesgos algorítmicos. Respecto al quinto neuroderecho y conforme hemos visto, la conexión cerebro/algoritmos tiene el potencial de generar discriminación entre sexos, razas o personas de otro pensamiento político, entre otras. En primer lugar, debemos considerar que los algoritmos son creados por seres humanos (programadores), quienes conscientemente o no pueden interferir en los mismos con sus prejuicios, generando sesgos muy difíciles de cambiar y que los propios algoritmos pondrán en funcionamiento al momento de tomar una decisión. Consideramos que la ley 23.592, antes mencionada, que adopta medidas para quienes arbitrariamente impidan el pleno ejercicio de los derechos y garantías fundamentales reconocidos en la Constitución Nacional, es de aplicación para resguardar este neuroderecho y se debe tener en cuenta para evitar que los algoritmos reproduzcan sesgos, sorteando de esa manera tratos desiguales o discriminatorios. Asimismo, al momento de programación de los algoritmos, encuentran plena aplicación algunos artículos del Código Civil y Comercial, entre ellos: Art. 1710 - Deber de prevención del daño. Toda persona tiene el deber, en cuanto de ella dependa, de: a) evitar causar un daño no justificado; b) adoptar, de buena fe y conforme a las circunstancias, las medidas razonables para evitar que se produzca un daño, o disminuir su magnitud; Art. 1757 - Hecho de las cosas y actividades riesgosas. Toda persona responde por el daño causado por el riesgo o vicio de las cosas, o de las actividades que sean riesgosas o peligrosas por su naturaleza, por los medios empleados o por las circunstancias de su realización". Consideramos que resultan aplicables ya que - al momento de desarrollar los algoritmos - los programadores (entiéndase a la organización proveedora de neurotecnología) deberán evitar la reproducción de sesgos. De hacerlo, indudablemente se configuraría un daño injustificado y - como deducimos de los mencionados artículos - al desarrollador le cabe el deber legal de evitarlo y, una vez producido el daño, le será aplicable el régimen de la responsabilidad civil objetiva por el mero hecho de configurar la neurotecnología una actividad riesgosa por su naturaleza. 4. Conclusiones. A lo largo del presente hemos pretendido encontrar, esparcido a través de diversos dispositivos legales, una "regulación" de los neuroderechos en el ordenamiento jurídico argentino vigente. El vertiginoso e incesante avance tecnológico nos desafía constantemente cuando se trata de regulación jurídica y nos debería obligar a desplegar nueva regulación específica.
Deberá ser una legislación fruto del consenso entre diversos sectores, como se ha tratado con el - todavía fallido intento de modificación de la Ley de Protección de Datos Personales. Argentina cuenta con un talento inconmensurable en materia de neurocientíficos, por lo que deberán ser inexorablemente oídos al momento de regular semejante cuestión. Entendemos que los neurodatos - actualmente y por interpretación amplia - quedarían encuadrados dentro de la categoría de datos sensibles dispuesta por el Art. 2 de la Ley de Protección de Datos Personales. Ello porque las neurotecnologías (que generan los neurodatos) tienen el potencial de proporcionar un conocimiento sobre la persona como ninguna otra tecnología, al permitirnos descifrar - tal como lo venimos afirmando - cómo piensa el individuo e influir en su conducta humana. Ella tiene el potencial de revelar el origen étnico, racial, opiniones políticas, convicciones religiosas, filosóficas o morales, afiliación sindical e información referente a la salud o a la vida sexual, es decir, absolutamente todos los datos sensibles consagrados por la Ley 25.326. No obstante, estimamos que resulta imperioso que - al momento de regulación de los neuroderechos, sea en ocasión de modificar la Ley de Protección de Datos Personales o por una ley especial - se defina específicamente una nueva categoría de datos (los "neurodatos") y se los incluya expresamente como datos sensibles. Será ardua la tarea de encontrar un equilibrio tal que permita la innovación científica y la legislación protectoria por el otro. A tales fines, se debe evitar que la legislación "asfixie" a la investigación y producción científica pero recordando siempre que - desde nuestro punto de vista - estamos tratando con derechos humanos, los cuales siempre primarán sobre cualquier otro interés. Los que suscribimos compartimos una gran pasión por la música. Así como una pista de Pink Floyd sirve para abrir el presente, creemos que las palabras del laureado con el nobel Bob Dylan podrían cerrarlo. En su ampliamente re-versionada canción "I shall be released", Dylan nos relata sobre una persona injustamente encerrada pero que - en su convicción íntima - siente que algún día será liberado. Esperemos que la aplicación de la neurotecnología no configure otro encierro figurado y debamos esperar de manera ilusoria la liberación a través de instrumentos legales que tardíamente pueden llegar (o no). Notas al pie: 1) Gastón Facundo Salort, Abogado. Magíster en Derecho Digital y Sociedad de la Información por la Universitat de Barcelona, España. Secretario académico de la "Sala de Derecho y Tecnología" del Colegio de Abogados de la ciudad de Córdoba. Director Académico de la "Diplomatura en Derecho Digital" de Acción Jurídica Córdoba. Profesor en la diplomatura "Tecnología Blockchain aplicada a los negocios y relaciones jurídicas" de la Universidad Católica de Córdoba. Socio en "GS DIGITAL", donde se desempeña como asesor en derecho y negocios digitales. Conferencista y docente invitado en cuestiones digitales. 2) Cristian Javier Medina, Abogado. Especialista en Derecho Informático, Universidad de Buenos Aires. Vicepresidente de la Comisión de Derecho Digital y de Las Nuevas Tecnologías de la Asociación de Abogados de Buenos Aires. Asesor jurídico en el Consejo Federal de Inversiones. 3) Manes, F. y Niro M. (2015). "Usar el cerebro" - Barcelona, España. Ed. Paidos. 4) https://neurorights-initiative.site.drupaldisttest.cc.columbia.edu/sites/default /files/content/The%20Five%20Ethical%20NeuroRights%20updated%20pdf_0.pdf. 5) https://www.senado.cl/inteligencia-artificial-y-neuroderechos-la-proteccion-de-n
uestro/senado/2019-05-28/132221.html. 6) https://www.senado.cl/inteligencia-artificial-y-neuroderechos-la-proteccion-d e-nuestro/senado/2019-05-28/132221.html. 7) https://www.investigacionyciencia.es/revistas/mente-y-cerebro/el-poder-del-be b-567/libre-albedro-10767. 8) Harari, Y. N. (2020). "21 lecciones para el siglo XXI". Ciudad Autónoma de Buenos Aires, Argentina. Pags. Pág. 65 y 68. Ed. Debate. 9) https://www.wired.com/story/will-artificial-intelligence-enhance-hack-humanit y/ - Traducción libre. Su contenido original es: "The more people believe in free will, that their feelings represent some mystical spiritual capacity, the easier it is to manipulate them, because they won't think that their feelings are being produced and manipulated by some external system". 10) https://www.lanacion.com.ar/tecnologia/que-son-neuroderechos-humanos-que-tienen- ver-nid2266745. 11) Bachrach, E. (2014). "EnCambio". Pág. 28. Ed. Sudamericana. 12) Bilinkis, S. (2018). "Pasaje al futuro". Ciudad Autónoma de Buenos Aires, Argentina. Pág. 130. Ed. Sudamericana. 13) Bilinkis, S. (2018). "Pasaje al futuro". Ciudad Autónoma de Buenos Aires, Argentina. Pág. 130. Ed. Sudamericana.