Hai trinta anos Fraga Iribarne enxalzaba a globalización coma o paraíso na terra e cheirei que algo ía mal. Agora o PP fala de crear consellerías de IA, no ensino a Xunta impón o expediente dixital e fala de “blindar o dereito do alumnado a recibir unha educación dixital” algo comparábel a que a sanidade se centrase en cuadríceps, deltoides, pectorais, ximnasios e suplementos hiperproteicos, non na saúde preventiva, os hospitais ou a alimentación sa… Alguén vai acabar chamuscado.
A temeridade dos gobernantes abducidos pola estrutura de poder xerada arredor da IA non ten límite. Na caza de resultados máxicos e titulares triunfalistas, presas da alarma por que a inacción os deixe fóra de xogo, amplifican a presión e capilarízana, entregando as sociedades que administran á opacidade e a rapina de Silicon Valley. Ou iso, ou son obxecto de ofertas difíciles de rexeitar.
*
Nayib Bukele, presidente de El Salvador, vai na pantalla seguinte. Tras apostar polo bitcoin como divisa, e fracasar, cede a xestión do sistema sanitario e os historiais médicos a Gemini, de Google. As persoas disporán dunha app na que exporán os síntomas e o algoritmo expedirá o tratamento, disporá as consultas que procedan e encargarase do seguemento en doenzas crónicas. “O obxectivo é que co tempo se encargue igualmente do cancro e as cirurxías”, supervisado por un comité de ética incógnito, atendido por doutores dos que nada se sabe. Por se axuda a entender o experimento, o ano pasado o goberno despediu 7700 médicos de primaria, especialistas, internistas e persoal de enfermería. Ollo, a sanidade do Reino Unido, cun goberno laborista, asina contratos con Palantir, que masacra nenos en Gaza e agoira unha orde mundial de matonismo sádico e guerra total. Outro ollo: a Xunta asegura que a súa IA é das boas pero nos despachos salivan co modelo Bukele. Non hai moito o Sergas “apostaba” por algo semellante e cualificábao como “empoderar o paciente”. En que quedamos? Buscar asesoramento médico en internet, non era o peor que podiamos facer?
*
Unha constante na xestión pública e empresarial é o medo a demandas ou sancións pola responsabilidade derivada de erros en infraestruturas, servizos ou mercadorías. Este pánico fai que a cada paso debamos asinar contratos de consentimento ou aceptar páxinas de termos e condicións con letra miñoqueira que actúen de cortalumes a favor do prestador do servizo ou vendedor do produto en caso de que algo saia mal.
A adopción da IA ameaza con derivar nun aumento xeral da ineficiencia, especialmente a gobernamental, dado que o obxectivo non é reducir os erros senón canear a redución de contas.
A adopción da IA ameaza con derivar nun aumento xeral da ineficiencia, especialmente a gobernamental, dado que o obxectivo non é reducir os erros senón canear a redución de contas. Se o proceso de toma de decisións sensíbeis incorpora a perspectiva do algoritmo, que vai facer o funcionario cando o seu criterio non coincida co da IA? Decantarse pola súa opinión e experiencia asumindo persoalmente as consecuencias? Ou buscar a protección do algoritmo, seguir as súas instrucións e non complicarse a vida? As administracións pásanlle a pataca quente ao funcionariado e, se este non ten vocación de heroe ou de mártir, fará o propio co algoritmo. Entre que os administrados anónimos se expoñan a unha desgraza ou que a nós nos abran un expediente…
No caso das empresas, a responsabilidade derívase cara ao consumidor. Enriba, os executivos comproban que a introdución da IA non conduce a día de hoxe a aumentos de produtividade medíbeis, admitindo que se apuntan por presión, de cara á galería e porque eleva o seu status corporativo.
*
Nos debates sobre a “aprendizaxe” das máquinas discútese onde situar o foco, no aumento das capacidades ou na comprensión do funcionamento. De ter que relegar un deses factores, cal sería? Gaña peso a idea de estudar os Modelos de Linguaxe como fenómenos naturais rexidos pola selección natural, substituíndo o tempo xeolóxico polos datos escalados. Os científicos serían observadores abraiados e, máis que falar de aprendizaxe das máquinas, cabería falar de aprendermos nós das máquinas. Isto é coma detectar lume nun bloque de vivendas, ou prendelo nós mesmos, deixando que as lapas se espallen para estudar o seu comportamento, a resposta dos materiais e as manobras de rescate. Con este método, o científico perfecto na área da saúde humana sería o doutor Mengele.
A monitorización é imprescindíbel, iso non quita que se distinga entre, poñamos por caso, unha ferramenta de debuxo dixital e outra de drones de uso bélico. A observación non leva de seu a excluír a comprensión, o contrario sería renunciar á ciencia e conformármonos coa tecnoloxía, traballar con caixas negras e a nivel usuario, depositando non a nosa confianza senón a nosa fe en que Elon Musk, Sam Altman ou Jeff Bezzos poñerán a nosa seguridade por enriba do resto.
*
Anthropic, valéndose do márketing catastrofista en voga, fixo coincidir lanzamento e retirada para o público xeral do modelo Mythos pola vulnerabilidade na que sumiría a gobernos, finanzas ou infraestruturas críticas. Tarde piaches. Recoñecen que axentes maliciosos accederon a el, sen nomealos, e admiten que JP Morgan, Goldman Sachs, Google, Microsoft, Amazon, Nvidia ou Cisco, seguen a gozar dese acceso. Que alivio, agora sabemos que ignoramos en mans de quen máis está e o uso que lle dan. Sabemos que non sabemos nada pero debemos ter fe en que o perigo é certo e está controlado. Amén.
