1. Crítica do determinismo tecnolóxico
No contexto do presente asúmese como unha verdade incuestionable a idea de que o progreso da humanidade vai parello ao desenvolvemento técnico e científico. Superadas as advertencias realizadas no século pasado por pensadores como M. Heidegger -quen avisaba de que a deriva da técnica podía dar lugar a un tipo de sociedade totalmente planificada, na que o que existe, tamén o ser humano, se podería converter en obxecto de cálculo e previsión-, T. W. Adorno e M. Horkheimer -quen denunciaban o sometemento das racionalidade crítica e moral á instrumental, a cal confunde o aceptable e o desexable co eficiente e o rendible- ou J. F. Lyotard -quen lembraba o colapso do gran relato iluminista, dado o poder coercitivo e destrutivo de certos dispositivos tecnolóxicos-, imponse hoxe de novo a crenza en que canto maior sexa o avance das tecnociencias máis benestar e prosperidade se conseguirá.
Este optimismo, inxenuo pois se asume dun modo acrítico e irreflexivo, obsérvase dun modo exemplar na esfera da emerxencia e despregue da Intelixencia Artificial, na cal se deposita unha confianza cega ao entenderse que os aportes que achegará beneficiarán á totalidade das capas sociais, aceptándose coma unha necesidade e unha obriga -impulsada por empresas e axencias estatais- o seu desenvolvemento, alén de calquera debate público minimamente informado e obviando este.
A confianza na IA explícase pola paulatina dixitalización integral da realidade que ve a luz no contexto da optimización dos procesos de rotación do capital contemporáneos, a través da economía de datos e o capitalismo de plataformas.
Esta dinámica explícase, ademais de pola evidente influenza ideolóxica coa que se transmite -que magnifica as múltiples posibilidades e usos que se desprenden da extensión masiva da IA e os efectos positivos que se derivan dela-, pola paulatina dixitalización integral da realidade que ve a luz no contexto da optimización dos procesos de rotación do capital contemporáneos, a través da economía de datos e o capitalismo de plataformas, nun modo de produción que funciona baixo a presión da competencia e que busca continuamente novos ciclos de innovación e nichos dos que obter rendibilidade. Deste modo é adoptada como un dos focos principais de inversión por parte de grandes empresas e Estados que ven no desenvolvemento da IA a nova panacea por vir. Así, ao difundirse a idea de que unha sociedade automatizada e controlada dixitalmente é máis avanzada que as que a preceden, o desenvolvemento técnico-económico se naturaliza, volvéndose o lema da nosa era. Nesta altura, parece evidente que as tecnoloxías dixitais dan ritmo á época e ditan o tempo das nosas existencias, marcando a dirección da Historia ao hibridar nun mesmo proceso o progreso histórico e o tecnolóxico.
Non obstante, contra este entusiasmo xeneralizado cabe contrapoñer unha actitude reflexiva e de cautela que formule unha análise crítica e sosegada sobre o que significa a implantación a gran escala da IA, atendendo particularmente ás consecuencias que pode supor no plano social e no propiamente humano, na medida en que a súa materialización pode traer consigo certas ameazas e efectos indesexables que cabe considerar antes de adherirse incondicionalmente a ela.
2. A IA e a autonomía humana
Nas últimas décadas, experimentouse un aumento masivo dos sistemas de computación algorítmica capaces de levar a cabo multitude de funcións e tarefas, a partires da recollida de información do mundo externo e a súa tradución a datos dixitais. A súa enorme capacidade de memoria e procesamento de información, que lle permite recibir, interpretar e manipular datos de fontes diversas, unida a súa capacidade de cálculo, que a faculta para analizala e organizala rápida e eficientemente, dota ás Intelixencias Artificiais dun poder de predición, decisión e execución que supera ás capacidades humanas nun número cada vez maior de situacións, tanto da vida privada coma da esfera social.
Hai exemplos que fan dubidar de que as Intelixencias Artificiais se estean conformando simplemente como mecanismos de apoio para decisións que precisan un poder de cálculo elevado, senón que máis ben se están configurando como unha racionalidade nova que supera á humana e que tende a desprazala e substituíla.
Así, os algoritmos de predición recomendan cal serie de televisión ver, que canción escoitar, canto e que exercicio facer ou o camiño que seguir para chegar ao noso destino, máis tamén están detrás dos ditames cos que se concede unha hipoteca ou un seguro médico, nos procesos de xestión do tráfico, no deseño da planificación urbana ou nos sistemas de videovixilancia cos que se identifica comportamentos sospeitosos ou mediante os que se recoñece rostros en tempo real. Estes exemplos, algúns triviais e outros máis inquietantes, amosan a capacidade de previsión e cominación que acadan os sistemas de computación dixital no contexto actual, os cales inciden dun modo efectivo na toma de decisións que impulsan as accións humanas así como nas estruturas a través das que xestiona a súa vida colectiva.
Como sinala o filósofo da tecnoloxía Éric Sadin, o que se está a producir é a emerxencia dunha nova racionalidade tecnolóxica, un tecno-logos, á cal se lle concede a capacidade para distinguir o auténtico estado das cousas (poder alethéico), a competencia de dar conta da totalidade das posibilidades (poder preditivo), de formular con precisión e rigor a solución máis eficaz posible (poder intelectivo) e de executala dun modo rápido e preciso (poder executivo). Os algoritmos dixitais e a intelixencia artificial semellan estar chamados a converterse nunha tecnoloxía da totalidade, que determina o comportamento humano nun dobre nivel, nun incitativo, alentando a práctica de certas condutas dado o coñecemento que atesouran dos suxeitos, e noutro prescritivo, determinando e ordenando cales son as mellores decisións nun ámbito de vida concreto.
Todo isto, en suma, fai dubidar de que as Intelixencias Artificiais se estean conformando simplemente como mecanismos de apoio para a adopción de certas decisións en situacións onde se precisa un poder de cálculo elevado, senón que máis ben se están configurando como unha racionalidade nova que supera á humana e que tende a desprazala e substituíla.
Por iso cabe formular, aínda que só sexa como unha hipótese sobre a que merece a pena reflectir, que se está a producir a emerxencia dunha intelixencia tecnolóxica, non asimilable á humana -xa que esta xurde no marco do proceso de evolución das especies, se encarna nun corpo biolóxico, se integra nun nicho medioambiental e ten como función principal a supervivencia- mais co poder de inserirse na súa vida dun modo tan intrusivo que ameaza o mantemento da súa autonomía, polo menos no seu sentido de autodeterminación e capacidade de libre pensamento para a toma de decisións propias.
3. A IA e o devir da democracia
A expansión dos algoritmos informáticos ameazan a soberanía humana no plano do individual, pero tamén o asedian no colectivo. Así, cabe suxerir se a administración da sociedade por medios dixitais pode conducir á deslexitimación da liberdade cidadá e ao enfraquecemento da democracia. Se a dirección das políticas públicas e a xestión dos recursos se sostivesen no poder de análise e predición que ofrecen os sistemas intelixentes automatizados, estaríase establecendo un modelo tecnocrático dixital que sublimaría a hipótese do gobernos dos sabios formulado por Platón.
O xurdimento dun Leviatán tecnolóxico permitiría a gobernanza de sistemas expertos, pero á vez suporía a cancelación da democracia, que se substituiría por un modelo datacrático no que a política ficaría reducida a unha mera cuestión técnica.
Un goberno tecnolóxico, capaz de combinar a obxectividade do coñecemento científico e a neutralidade fría do algoritmo, podería dar lugar a un novo tipo de despotismo ilustrado, no cal as medidas se tomarían para o pobo pero sen contar coa súa participación, sendo determinadas por procesadores de macrodatos cunha capacidade de cálculo máis precisa e rigorosa que a humana, condicionada sempre por prexuízos, nesgos e xogos de intereses na que pugnan faccións ideolóxicas que procuran acadar a hexemonía máis que o interese común. En tal sentido, o xurdimento dun Leviatán tecnolóxico permitiría a gobernanza de sistemas expertos, pero á vez suporía a cancelación da democracia, que se substituiría por un modelo datacrático no que a política ficaría reducida a unha mera cuestión técnica de determinación de escenarios, estudios de continxencias, valoración de probabilidades e xestión de riscos.
Vendo as derivas da política do presente, é tentador sucumbir á fascinación algorítmica e crer que a xestión automática dos recursos e dun modelo social administrado tecnoloxicamente pode ser a solución aos problemas que a política non é quen de resolver, mais semella que esta só ten sentido na medida en que nela se articula a soberanía humana, sendo a materialización da súa liberdade. Por iso, resulta imprescindible a denuncia e a resistencia dos procesos normalizadores, de vixilancia e de biovixilancia, que moldean as subxectividades, que determinan o paradigma de percepción desde o cal se interpreta a realidade, e que restrinxen a capacidade creativa de dirixir os asuntos propios.
Para que siga sendo posible falar de democracia, cómpre desafiar a política algorítmica que anula o pensamento humano e descualifica as súas habilidades para xestionar os conflitos entre as distintas formas de concibir a realidade, capacidade da que depende que a política continúe sendo o espazo onde se exterioriza a autodeterminación humana e o lugar onde se pon en xogo a súa liberdade.
