“O capitalismo da vixilancia expresa unha orde económica nova”
Senén Barro, ex Rector da USC, dirixe o CITIUS (Centro Singular de Investigación en Tecnoloxías Intelixentes da Universidade de Santiago), un dos oito centros de investigación do Sistema Universitario de Galicia e a referencia galega en investigación en Intelixencia Artificial. Os investigadores que o integran sostéñeno coa achega que reciben da Xunta e cos fondos privados e públicos que eles mesmos son quen de captar. A cambio, o Centro fai unha investigación de moi alta calidade e impacto, transfírelle os seus resultados ao tecido produtivo, forma novos investigadores, é decisivo para a creación de empresas e xeración de emprego, e contribúe á divulgación da ciencia e a tecnoloxía na sociedade. O profesor Barro é, pois, un dos máis cualificados expertos na materia, quen en Galicia mellor coñece e sabe interpretar o que nos depara o desenvolvemento da IA.
texto Manoel Barbeitos foto Fernando de Paz
En tódalas conxunturas históricas, a tecnoloxía é unha parte constitutiva e un integrante fundamental da dinámica de dominio do sistema. Pódese dicir o mesmo na actualidade afirmando que as GAFAM (Google, Amazon, Facebook, Apple, Microsoft) e as BAT (Baidu, Alibaba, Tencent) desempeñan ese papel na economía/mundo neoliberal ?
Nunca tan poucas empresas concentradas nun mesmo sector de actividade tiveran tanto poder como ocorre hoxe coas denominadas “tecnolóxicas”. Son auténticos oligopolios, e están a poñer en evidencia que poden condicionar as decisións dos gobernos e, témome, ata poñer ou quitar membros deses gobernos nalgúns casos. Ademais, o seu poder non só é económico, senón que teñen unha enorme capacidade de coñecer e condicionar as vontades da sociedade a través das propias tecnoloxías que desenvolven e comercializan.
“Nunca tan poucas empresas concentradas nun mesmo sector de actividade tiveran tanto poder como ocorre hoxe coas denominadas “tecnolóxicas”. Son auténticos oligopolios. Poden condicionar as decisións dos gobernos e, témome, ata poñer ou quitar membros deses gobernos”.
Como é sabido, as GAFAM aliméntanse dos nosos datos, constituíndo a base do seu gran negocio. Cal é a clave do negocio?
No libro A era do capitalismo da vixilancia, a socióloga Shoshana Zuboff utiliza ese término capitalismo da vixilancia que ela mesma acuñou para referirse á comercialización que fan algunhas empresas cos nosos datos persoais. Cando non pagas por algo, dise, ti es a mercadoría. Os nosos datos son o pago polo que aparentemente é gratis, sexa o acceso a un xornal dixital ou unha aplicación para a monitorización do exercicio físico no móbil. O capitalismo da vixilancia expresa unha orde económica nova, na que os nosos datos, sobre todo os asociados á nosa conduta nas redes sociais, en portais de comercio electrónico, en xeral na internet, son a materia prima, normalmente gratuíta, para que algunhas compañías fagan caixa.
Diso sae o dos chamados excedentes condutuais, non?
O paradigma dese capitalismo é quizais Google, ou polo menos foi a compañía que primeiro puxo en valor de mercado a información obtida masivamente dos seus usuarios, que en xeral ignoran o que dan, a quen, a cambio de que e para que. Os nosos datos en mans destas empresas son “excedentes condutuais”, na medida en que son como os sobrantes do material dunha obra, pero coa diferenza de que o que nisto aparentemente non tería maior interese nin valor, convértese precisamente no máis apreciado naquilo, xa que serve para facer crecer o mercado ou mesmo para crear novos mercados. Pensemos que non só se predí a conduta dos usuarios e clientes para facer máis efectiva a venda de servizos e produtos, senón que se lles inducen certas condutas de uso e de compra que permiten ir moito máis alá de atender dun modo máis eficaz e eficiente os seus intereses.
Unha das vías utilizadas polas GAFAM para a captación dese excedente son as “pegadas informáticas” das nosas actividades, as que imos deixando desde que nos erguemos ata que nos deitamos. Non está sendo a privacidade humana unha vítima da dixitalización? Como defender a nosa autonomía?
“Sexa por ignorancia ou por imposibilidade material de coñecer todo aquilo que aceptamos, acabamos autorizando que as grandes empresas tecnolóxicas nos espíen e que utilicen no seu beneficio o que van descubrindo de nós”.
Sen dúbida. Cada día, case a cada pouco, imos deixando pegadas dixitais, como as faragullas de pan que deixaban Hansel e Gretel coa idea de lembrar o camiño de volta a súa casa. No conto dos irmáns Grimm foron os paxaros quen ía coméndose as faragullas, aquí son as empresas as que dan conta de cada rastro que imos deixando. Moitas veces fano co noso consentimento, supostamente informado, pero en moi poucos casos podemos considerar que é así na práctica. Sexa por ignorancia ou por imposibilidade material de coñecer todo aquilo que aceptamos, acabamos autorizando que nos espíen e que utilicen no seu beneficio o que van descubrindo de nós.
Tal vez porque pensamos que elas tamén reportan algo a cambio. En todo caso, como defender fronte a elas a nosa autonomía?
Como o proceso é silente e cremos que nos compensan os supostos beneficios desa “espionaxe”, apenas nos preocupamos do tema e case non nos queixamos, o que resulta cando menos paradoxal. Pensemos no hipotético caso en que un conxunto de persoas seguísennos cada día, sen molestarnos, sen dicir nada, sixilosamente e ata imperceptiblemente, pero anotando o que dicimos, o que facemos, onde imos, que compramos, con quen estamos… Se iso ocorrese, e aínda que o seguimento fose só na rúa e nos lugares públicos, escandalizariámonos, asumiriamos que estarían a violentar moi gravemente a nosa intimidade. Sentiriámonos desprotexidos polo Estado. Pois iso ocorre a través dos nosos móbiles, dos dispositivos dixitais de vestir, dos asistentes persoais, das nosas tabletas e computadores… As formas principais de defendernos son dúas: ter a formación adecuada para saber actuar e esixir os nosos dereitos, e que os poderes do Estado lle dean amparo a eses dereitos e actúen con dilixencia e contundencia.
Outra das vías de captación dese excedente están sendo os chamados “aparatos intelixentes” que lles permiten as empresas anticiparse ás decisións dos consumidores, cando non condicionar as súas condutas. E isto así? Non se están atacando os dereitos e as liberdades democráticas con estas políticas comerciais? Ula libre concorrencia comercial?
Amazon, cuxo modelo de negocio baséase agora en “primeiro compra e logo envío”, leva tempo traballando no que podemos chamar envíos especulativos, baseados nun modelo de negocio novo: “primeiro envío e logo compra”. A idea parece desatinada, pero é factible. A través de programas baseados en Intelixencia Artificial pódese predicir o que os clientes poderían chegar a comprar se o recibisen nas súas casas, mesmo sen solicitalo. Cando o custo das devolucións sexa menor que o beneficio derivado desta forma de “satisfacer” os intereses inducidos no cliente, o novo modelo de negocio estará en marcha. Pero non hai que ir tan lonxe para percibir que hai un intento de condicionamento constante das nosas condutas como consumidores. De feito, ese obxectivo non é novo. A publicidade busca informar, difundir e persuadir a un potencial consumidor sobre a existencia e bondades dun produto ou servizo. Existe desde que hai produtos e servizos dispoñibles, fai miles de anos. O que ocorre é que agora as ferramentas tecnolóxicas non só permiten ir moito máis lonxe na información, a difusión e a persuasión, senón que engaden a todo iso o seguimento e coñecemento íntimos do usuario ou cliente.
Serán as máquinas as que decidan por nós o que consumimos… Como controlar semellante escenario?
Fai un par de anos escribín un artigo para a revista vasca de economía Ekonomiaz, no que especulaba sobre un futuro no que delegaremos nas máquinas unha parte importante das decisións relacionadas con aquilo que compramos ou que se nos ofrece como potenciais consumidores. Trataríase de dispoñer de “Avatares Persoais para o Consumo”, que xestionarían por nós boa parte dos nosos intereses como clientes ou potenciais clientes. Nun mundo onde as máquinas se encarguen cada vez máis de todo o relativo ao noso consumo, ou xogamos coas seus mesmas capacidades e elas coas nosas regras, ou estaremos perdidos. Nun marco de regulación e supervisión do cumprimento do regulado, estes avatares darannos moitas máis garantías de que non somos sen máis a mercadoría que se pon en venda, ás veces a cambio de nada.
Hai tamén quen consideran que a través das novas tecnoloxías se están introducindo novas escalas de valores que ademais consideran prexudiciais, e que teñen aos nenos e adolescentes como principais obxectivos. Coincide con esta precisión?
“A tecnoloxía rodeou e penetrou no día a día aos máis mozos desde o seu nacemento, pero iso non os preparou para comprendela e integrala nas súas vidas. Ao contrario, convérteos por defecto nos máis activos obreiros do capitalismo da vixilancia”.
Sen dúbida. Creo que os mozos son os máis prexudicados, porque están máis expostos, pero non necesariamente máis preparados. Seguro que coñecemos e usamos todos o termo de “nativos dixitais” para referirnos a quen ten menos de 20 ou 30 anos. E facémolo coa idea de que os mozos entenden e manéxanse ben no mundo dixital no que naceron. Pois eu non concordo con esta visión. A maioría destes mozos son realmente “novatos dixitais”. A tecnoloxía rodeounos e penetrou no seu día a día desde o seu nacemento, pero iso non os preparou sen máis para comprendela e integrala do mellor modo posible nas súas vidas. Ao contrario, convérteos por defecto nos máis activos “obreiros do capitalismo da vixilancia”. De novo, é a educación a principal ferramenta para combater unha situación realmente preocupante.
Poden nese caso estas novas tecnoloxías estarlle facendo unha competencia desleal aos educadores e aos centros de ensino? Poden estar creando, por mor da alta exposición que teñen no uso de Internet, realidades alternativas?
En todo caso, isto non sería un mal intrínseco das tecnoloxías, senón unha carencia máis do sistema educativo. O noso sistema educativo ten serias limitacións en canto a como integra e forma para un uso adecuado das tecnoloxías da información. Se un estudante atopa na internet a forma de aprender o que non é capaz de ensinarlle o seu profesor ou se ve pervertida a súa adecuada formación polo uso da rede, non é un problema de competencia desleal senón de incompetencia do sistema educativo e/ou dos seus profesores.
O xefe máximo de Google declarou no seu día que están en contra de que os gobernos regulen a actividade innovadora a que dá lugar esa alta tecnoloxía. É imperativa esa regulación por parte dos poderes públicos?
“Podemos asumir a autorregulación das empresas tecnolóxicas en relación a como usar a IA? Respondo con outra pregunta: deixaríamos que a regulación sobre os produtos financeiros a fixen os bancos? Seguramente veremos razoable que se lles consulte a uns e outros, pero non que se deixen estes temas nunha simple autorregulación”.
Sen dúbida son as empresas -os seus directivos-, quen maior interese teñen en que se fale dunha ética da Intelixencia Artificial (IA). Pode resultar paradoxal isto que estou a dicir, pero ten unha explicación tan simple como preocupante. O que quede no terreo da ética non é de obrigado cumprimento, e non ten outra penalización que o xuízo moral que fagamos as persoas diso. Non é o caso, evidentemente, do que está regulado por lei. No terreo da ética as empresas atópanse moi cómodas e moito menos no da lexislación. Podemos asumir a autorregulación das empresas tecnolóxicas en relación a como usar a IA? Respondo con outra pregunta: deixaríamos que a regulación sobre os produtos financeiros a fixen os bancos, ou que sexan os matadoiros os que decidan pola súa conta como tratar aos animais que sacrifican, ou que unha compañía farmacéutica decida cando e como sacar un novo fármaco ao mercado? Seguramente veremos razoable que se lles consulte a uns e outros, pero non que se deixen estes temas nunha simple autorregulación de cada sector.
De todas maneiras, velaí a gran contradición inherente a ese novo estadio tecnolóxico. Tamén parece indiscutible que as novas tecnoloxías poden aportar progreso e grandes avances no benestar e na calidade de vida. Que tipo de avances e en que campos poden ser máis útiles para a humanidade?
Eu creo que ninguén dubida de que foi o avance científico e o desenvolvemento tecnolóxico o que permitiu o progreso constante da humanidade. A linguaxe mesmo é un artefacto tecnolóxico que ninguén pon en cuestión. A Intelixencia Artificial, como xa o foi antes a informática, está a penetrar absolutamente en todos os ámbitos profesionais e da nosa vida. De feito, a IA supón engadir máis autonomía, capacidade de tomar decisións e de automellora, a través da aprendizaxe automática, a calquera desenvolvemento informático ou dispositivo dixital, sexa un robot, un coche, un móbil ou unha lavadora. Digamos que supón ir máis aló das capacidades que ata o de agora despregaban as máquinas. Deste xeito, nada é nin será alleo á IA, sexa para ben, como ocorre nos ámbitos da medicina ou da educación, ou para mal, como as armas autónomas.
“A Intelixencia Artificial supón ir máis aló das capacidades que ata o de agora despregaban as máquinas. Deste xeito, nada é nin será alleo á IA, sexa para ben, como ocorre nos ámbitos da medicina ou da educación, ou para mal, como as armas autónomas”.
Que avances e/ou retrocesos supoñen en relación co mundo do traballo e os dereitos laborais? En principio, asumimos a idea de que con estes avances tecnolóxicos os traballadores teñen dereito a esperar mellores condicións laborais. É así a realidade?
Dediquei bastante tempo ao tema do impacto no traballo humano da automatización intelixente de tarefas. Estamos a vivir un Déjà Vu do que xa manifestou Keynes en 1930, hai case un século, cando dixo: “Estamos a sufrir unha nova enfermidade da que algúns lectores quizá non oísen falar aínda, pero da que oirán falar moito nos próximos anos: o desemprego tecnolóxico”. Non se produciu entón, pero aínda que hai división de opinións sobre se estamos ou non ás portas de que ocorra, creo que agora hai algunhas evidencias como para poder afirmalo.
De que evidencias fala?
Estímase que en 2025 igualaranse o traballo que realizamos as persoas co traballo que desempeñan as máquinas. Incluíndo aquí, por suposto, todo o que está informatizado. De feito, no seu último informe sobre o traballo, o Foro Económico Mundial pon de manifesto que a pandemia está a aumentar a dixitalización e a automatización da economía. Aínda que é certo que as propias estimacións do Foro afirman que ata 2025 crearanse no mundo máis traballos que os que se eliminen pola automatización, o emprego crearase sobre todo en lugares distintos a aqueles onde se concentre a súa destrución. Tampouco serán os que perdan os empregos eliminados pola automatización quen se incorporen aos de nova creación, xa que os perfís profesionais duns e doutros son moi distintos. O emprego créase e destrúese, pero sobre todo transfórmase e recolócase, e iso aumentará os desequilibrios xeográficos, sociais e económicos, tanto a escala macro como micro.
Comportará tamén un incremento da precarización laboral…
A transformación dixital e a automatización do traballo poden dar lugar a un incremento da precarización do emprego. A economía das plataformas xa o está evidenciando. O modo en que ata o de agora se organizaba o traballo está a cambiar rapidamente. O traballo será deconstruído, partido nas súas tarefas básicas, de modo que moitas asignaranse ás máquinas por razóns de custo, de eficiencia e de eficacia, de rapidez, etc., e o sobrante seguirán facéndoo as persoas, polo menos mentres o permita o imparable avance da automatización intelixente. As plataformas operan e operarán xestionando estes recursos humanos e maquinais, pero de forma espontánea non será en beneficio do traballador senón do negocio. Unha vez máis, ou é o Estado e non o mercado o que regula este proceso, ou estaremos diante dun dos problemas máis serios cos que se van a enfrontar en xeral os países nos próximos anos.
Camiñamos cara unha dixitalización masiva, e aseguran os expertos que aqueles países que non a emprendan irán quedando atrás. Concretémolo en Galicia. Estáselle prestando tanto a nivel público como privado a atención necesaria pensando nese obxectivo?
O tema non é tanto dixitalizar como transformar dixitalmente os modelos de negocio, os procesos, os servizos e produtos. Desde a administración autonómica podemos destacar o traballo que leva feito Amtega na última década. No ámbito da IA, por exemplo, somos unha das tres comunidades que conta cunha estratexia propia en IA, cun investimento superior aos 300 millóns de euros ata o 2030, o que, de concretarse, suporía un investimento per cápita público no ámbito destas tecnoloxías superior ao da media da UE.
Que se debería afrontar que non se estea facendo?
Todo pode facerse sempre mellor e con máis ambición. Pero creo que temos carencias claras na política de axudas e incentivos á innovación real das empresas a través do coñecemento e ou desenvolvemento tecnolóxico. Moitas das axudas acaban véndose só na caixa das empresas, pero non no mercado. Necesítase tamén un maior investimento en I+D no sector público, pero investido con intelixencia científica e tecnolóxica, o que supón investir e non repartir sen máis. Por poñer un terceiro punto, diría que están nacendo un número significativo de empresas de base tecnolóxica, pero cunha axuda insuficiente para crecer despois de nacer, consolidarse e internacionalizar a súa actividade.
Que ámbitos da actividade galega, pública e privada, empresarial e familiar, poden ser os máis beneficiados polo desenvolvemento e a aplicación destas novas tecnoloxías?
De novo, a absoluta transversalidade e ubicuidade das tecnoloxías intelixentes poden e están a embeber á sociedade e ao tecido produtivo de Galicia. Polo tanto, nada quedará ou debería quedar fóra do seu impacto. Agora ben, atreveríame a dicir que hai tres ámbitos nos que é especialmente importante para Galicia o resultado da aplicación das tecnoloxías intelixentes: situar ao Galego na sociedade e na economía dixitais, o que se está acometendo a través do proxecto Nós, un proxecto da Xunta desenvolvido pola Universidade de Santiago de Compostela, a través do Instituto dá Lingua Galega e do CiTIUS; a modernización, transformación dixital e automatización das administracións públicas; e a innovación empresarial baseada nas tecnoloxías intelixentes. Insisto no de innovar ao redor destas tecnoloxías, non simplemente incorporalas nas organizacións.