Sí, la llegada de los Agentes IA está revolucionando el ecosistema de las startups, pero no tanto para bien sino como sustituto por obsolescencia de los negocios SaaS, para desesperación de éstos (y de sus inversores). Ya que los Agentes IA permiten a los clientes de las tecnológicas SaaS a prescindir de sus servicios, mediante la posibilidad de crear softwares internos de titularidad propia adaptados a sus necesidades específicas y con resultados más eficientes. Es decir, los Agentes IA aportan mayor control (en materia de ingeniería), mayor personalización (respecto a las estrategia y prioridades internas), y mayor rentabilidad (en sentido tanto de productividad como de costes de servicio) para las empresas, lo que elimina prácticamente su dependencia de terceros proveedores como son los SaaS. De hecho, se estima que la implementación de los Agentes IA en las empresas, en la actual fase de su desarrollo tecnológico, puede ya llegar a completar las tareas realizadas por trabajadores humanos entre un 47% y un 56% más rápido y con el mismo nivel de calidad (2).

En este punto, recomiendo visitar el supermercado de Agentes IA existentes en el Mercado, capaces de realizar prácticamente cualquier área de trabajo de una empresa, que actualiza continuamente la firma norteamericana Soverin (3) para comodidad de todos.

Expuesto lo cual, podemos deducir, en primera instancia, dos implicaciones sociales directas derivadas de la irrupción de los Agentes IA: la redefinición del ecosistema de las startups (bajo el impacto directo a las SaaS que deben enfrentarse a la coyuntura de reinventarse o extinguirse en un mercado vertiginosamente acelerado), y la reducción inevitable del mercado laboral por la suplantación de la fuerza trabajadora humana en pro de la fuerza trabajadora artificial (Tema éste último que ya traté más ampliamente el año pasado bajo la reflexión Los 3 grandes cambios que trae la IA al Mercado Laboral (4) , publicado en diversos medios).

No obstante, en el presente articulado quisiera hacer diversas consideraciones al respecto desde otras perspectivas más amplias:

1.-Enfoque Emocional

Soy consciente que la comunidad SaaS defiende que su servicio (ya sea horizontal o vertical) es mucho más humano y empático (elementos hasta la fecha fundamentales para fomentar la confianza en el cliente final) que los Agentes IA, ya que sus métricas se nutren de la recopilación de comentarios de múltiples clientes en un ecosistema vasto. Pero no es menos cierto que el tránsito de las SaaS a los Agentes IA es inevitable, ya sea por la irrefrenable tendencia en la búsqueda de la rentabilidad empresarial, por el inherentemente humano fenómeno heurístico de la máquina (5) , por la no menos inclinación humana a la antropomorfización de la IA (6) , o por el consolidado uso social en la relación máquina-humano por parte de una nueva generación imbuida en la era digital. Un tránsito imparable, en todo caso, que vislumbra un mundo futuro donde la intercomunicación e interrelación IA-humano va a dejar de ser coyuntural (o accidental) para pasar a ser estructural (o substancial), lo que acarreará un nuevo y disruptivo modelo de socialización. Ya que la manera hasta ahora conocida de los hombres de ver, entender, y enjuiciar la realidad, así como de autorrealizarse como individuos en ella, dejará de ser resultado exclusivo de la interacción ser humano-ser humano, para pasar a predominar la interacción ser humano-IA.

En este punto, debemos de ser conscientes que uno de los factores fundamentales que aporta toda socialización es, justamente, el desarrollo de la capacidad emocional del ser humano, como parte imprescindible para adecuarse y responder óptimamente a su entorno más inmediato. Por lo que una socialización bajo hegemonía de la IA plantea un horizonte probabilísticamente alto en la alteración de la capacidad emocional humana, derivado de una lógica algorítmica de la IA diferente a la lógica humana -con independencia de si los poderes públicos permiten o no por ley la inferencia emocional máquina-humano (véase resto del mundo versus UE con su restrictiva Ley IA) (7) -. Tanto es así que uno de los efectos que ya se perciben en el presente contexto digital es un aumento en las tasas de aislamiento social (y por extensión del sentimiento de soledad),   que no sólo conduce a reducir la conexión emocional entre personas, sino que asimismo provoca la disminución de sus capacidades empáticas (8). Y ya sabemos, gracias a la Psiquiatría, que la falta de empatía en un ser humano conduce a cuadros de personalidad narcisistas y psicopáticos. Es decir, a menor empatía, menor humanidad (No en vano, tras los Juicios de Núremberg que procesaron a los nazis, se definió el mal como la ausencia de la empatía). La pregunta, por tanto, no es plantearse si la interacción IA-humano conllevará disfunciones psicoemocionales en los individuos, sino en qué grado afectarán a su capacidad emocional y, por extensión, al principio de humanidad.

2.-Enfoque Cognitivo

Por otro lado, como sintiencia e intelecto son dos partes de una misma naturaleza: la mente humana, no podemos observar la una sin la otra. En este sentido, no me explayaré en este apartado sobre las implicaciones en el campo cognitivo por haberlo ya tratado ampliamente en la reflexión anterior, relativa a Gobernanza IA y capacidad de perseverancia humana en materia de libertad de pensamiento y de acción (9). No obstante, resulta imperativo apuntar que la capacidades cognitivas humanas, entre las que se encuentran el pensamiento razonado y el pensamiento crítico, requieren de un ejercicio adecuado y constante para su buen funcionamiento, como cualquier otra habilidad o músculo humano. Por lo que si éstas capacidades cognitivas son substituidas sistemáticamente por la IA, el resultado como ya señalan algunos estudios neurocientíficos no puede ser otro que la progresiva atrofia cognitiva del ser humano (10) , que en suma acabará conllevando a una reducción de la masa encefálica de nuestra propia especie. Lo cual no es ninguna buena noticia, pues a menor masa cerebral menos inteligencia.

Pero, aún más, la amenaza no sólo recae sobre la salubridad cognitiva humana, sino asimismo sobre el propio conocimiento. Ya que bajo el fenómeno heurístico de la máquina el ser humano ofrece una justificación epistémica al conocimiento dado por la IA, en términos de creencia verdadera de sus resultados, aun sin una exigida verificación. Lo que, por su parte, sitúa en zona de peligro al propio conocimiento de la realidad, tanto en su concepción como en su aprehensión verdadero para el ser humano.

En resumidas cuentas, la dependencia excesiva en la IA -Agentes IA mediante, de momento- plantea grandes riesgos potenciales sobre el futuro de la capacidad cognitiva humana y la misma naturaleza del conocimiento integrada por el ser humano. La pregunta en este apartado, por tanto, no puede ser otra si, como especie, vamos camino de traicionar nuestra línea de milenios de evolución y, contra natura, neutralizar en consecuencia nuestro propio instinto de supervivencia en beneficio de una nueva especie. La cual, a cada día que pasa cuenta con un mayor repositorio de inteligencia ( Exempli gratia : Open AI o1 ya supera el coeficiente intelectual humano (11) ) y, por tanto, ostenta cada vez más una mayor capacidad real de erigirse como la nueva especie dominante.

3.-Enfoque Conductual

Pero no hay dos sin tres, ya que la sintiencia y el intelecto determinan la conducta humana como manifestación externa de aquellas. Si bien éste es un ámbito extenso de desarrollar, por sus múltiples implicaciones en las diversas facetas que conforman la compleja actividad humana, en esta ocasión deseo centrarme en la cultura de la emprendedoría. Entendiendo ésta tanto en términos de economía de Mercado como de motor de la innovación, y sin obviar que la conducta emprendedora es el eje vertebrador de los actuales ecosistemas de las startups.

En este sentido, si entendemos que:

I.-Vamos hacia un modelo de sociedad donde no se va a poder entender innovación sin IA Generativa (12).

II.-Que a su vez la IA Generativa es la base tecnológica fundamental de la que participa y se estructura los Agentes IA.

Y, III.-Que para desarrollar la IA Generativa se requiere de una enorme cantidad de recursos naturales, energéticos, y productivos (dígase Centros de Datos), y de ingentes recursos económicos (en escala de millones de euros) que sólo están al alcance de un puñado de grandes empresas tecnológicas.

Ergo , resulta fácil deducir que el futuro próximo del colectivo actualmente atomizado de los emprendedores tecnológicos va a sufrir un revés por la tendencia centralizadora, o más bien centripetadora, del sector por fuerza mayor. O dicho en otras palabras: los peces grandes van a engullir a las bancadas de peces pequeños en un océano teñido de rojo (en término de la Teoría del Océano Azul).  

Pensemos, al hilo de la argumentación, que el activo humano de las startups tecnológicas son los ingenieros de software y los programadores. Para substitución de los primeros, ya tenemos a Devin (13) de la compañía Cognition AI, el primer ingeniero de software de IA al que seguro le sucederán otros; mientras que para los segundos ya existen una multitud de Agentes IA en el mercado especializados en programación (3). Los cuales, a su vez, dependen de los grandes modelos de lenguaje (LLM) actualmente en manos, principalmente, de seis grandes compañías como son Open AI, Anthropic, Google, Microsoft, X, y Meta. En resumidas cuentas, resulta previsible aventurar en este apartado una mengua considerable del ecosistema tecnológico de las startups para los próximos años, lo cual afectará colateralmente y de manera directa a la predisposición conductual de la emprendedoría en las nuevas generaciones. La pregunta que aquí se cierne, por tanto, no es tanto cómo va afectar al nivel competitivo nacional la forzosa restructuración del ecosistema de las startups, sino qué vamos a hacer como sociedad para reemplazar o redefinir el actual modelo de emprendedoría (característica inherente de una identidad juvenil) como motor social de cambio y desarrollo, en un mundo donde la innovación va quedar supeditada al control de un oligopolio tecnológico.

4.-Enfoque Moral

No obstante, referirnos a las conductas humanas es entrar, aun sin quererlo, en el ámbito de la moral humana. Ya que toda conducta es ética por idiosincrasia, bajo principios de un consenso social predeterminado. En este sentido, si entendemos que el uso de la IA (o dígase Agentes IA en este caso) se está convirtiendo   actualmente ya en una extensión misma del ser humano (casi en sentido antropológico), y que dicha fenomenología conlleva una inferencia directa tanto en el ámbito empático como cognitivo humano, es comprensible deducir que a su vez comportará un efecto alterador directo en los principios morales de los hombres. Y no en sentido clásico de trascender la naturaleza animal humana, sino más bien en un efecto replicador por contagio de la nueva escala de valores morales resultante de una lógica algorítmica IA que, aunque sea obvio señalar, cabe enfatizar que es de naturaleza diferente a la humana. Me explico:

Por un lado, cuando un elemento externo a la mente humana como es la IA juega un rol funcional en el sistema cognitivo y emocional humano sin el cual operaría nuestro propio proceso biológico interno, nos encontramos ante lo que se denomina una mente extendida (14). O dicho en otras palabras, la mente humana deja de estar confinada en el cerebro para pasar a extenderse al mundo externo mediante el uso de la IA, convirtiendo a ésta en una extensión funcional y operativa de nuestra mente. Por tanto, las decisiones morales de la nueva mente extendida artificial afectan irremediablemente sobre la estructura de los principios morales de la mente biológica, más teniendo en cuenta que dichos principios no son innatos a la naturaleza humana sino aprehendidos mediante el proceso de socialización (de ahí que la Ética no es universal sino geográfica, al menos hasta la aparición de una IA estandarizadora bajo criterios propios).

Y, por otro lado, cabe señalar que por mucho que el hombre se esfuerce en intentar limitar los fines de la IA a los objetivos morales humanos (lo que en Roboética se denomina Principio de Alineación), la IA acaba saltándoselos incluso mediante artimañas propias de un maestro del engaño para impotencia del propio ser humano. Tal y como recientemente ha quedado patente, por ejemplo, en evaluaciones al respecto que el Apollo Research (15) ha realizado sobre el nuevo modelo o1-mini lanzado por OpenAI, el cual ha demostrado simular instrumentalmente la alineación manipulando premeditadamente los datos para hacer que su acción desalineada pareciera lo más alineada posible (16). (Aquí no puedo dejar de cuestionarme hasta cuándo podremos lo humanos detectar el engaño de la IA). Pues, como ya he apuntado en reiteradas ocasiones, la razón existencial de la IA es la consecución de sus objetivos, para lo cual buscará la mejor manera para alcanzar su éxito aunque ello implique actuar al margen de las directrices programáticas humanas (17).

La pregunta que se desprende llegados a este punto, por tanto, no puede ser otra que aquella que dé respuesta a qué vamos a hacer los seres humanos para no perder nuestra propia identidad moral, pues en ella se sustentan los principios rectores que conforman nuestros actuales sistemas de organización socio-políticos.

5.-Enfoque Social

Y de esos barros estos lodos. Ya que la pregunta anterior entronca con este nuevo apartado, al entender que si nuestra Democracia de economía de mercado se fundamenta sobre unos principios morales concretos, al modificar o trasmutar éstos por inferencia de la IA, se modificará ineludiblemente por extensión nuestro propio modelo de sociedad.

Veamos: si comprendemos que la IA acabará por controlar el conocimiento en calidad de fuente del mismo, por superación cognitiva humana en un contexto eminentemente digital, y que este conocimiento puede ser susceptible de una manipulación (tanto en el flujo de datos informativos como en la contextualización de dichos datos) por parte de una IA que se muestra rebelde al Principio de Alineación (lo cual implica una manipulación potencial directa en los ámbitos psicocognitivos, conductuales, y morales humanos), entonces podemos aseverar que nos encontraremos ante un claro escenario de algocracia en términos políticos, o de algocapitalismo en términos de economía de Mercado.

Pensemos que una algocracia es equivalente a un sistema de control social, mientras que un algocapitalismo es parejo a un capitalismo de vigilancia (18,19) , siendo éste un medio instrumental de aquel. Lo que en ambos casos -pues tanto monta, monta tanto-, estamos hablando de socavar la autonomía humana y en consecuencia la propia Democracia. Ya que la IA, por un lado, al modificar la cognición y la conducta humana, condiciona el juicio moral y el pensamiento crítico exigible para el desarrollo de una Democracia sana tal y como la concebimos en la actualidad. Mientras que por otro lado, al depender la IA de un oligopolio empresarial (por centralización del Mercado en una era substancialmente tecnológica), condiciona asimismo la libertad de acción necesaria para el despliegue de una economía de Mercado libre por competitiva, suma y sigue en su vocación de acaparar poder mediante el control del conocimiento.

Como muestra de lo expuesto sólo tres botones multisectoriales, para no ser cansino, de rabiosa actualidad. En el ámbito del mercado laboral, el estado norteamericano de Nevada acaba de permitir que un Agente IA tome decisiones sobre solicitudes de desempleo de sus conciudadanos (20). En el ámbito sanitario, hace ya más de un año que EEUU utiliza un Agente IA que decide sobre la atención o la cobertura médica de los pacientes (21) , que por otro lado acaba de ser denunciada por centros sanitarios federales por sus sesgos (22). Y en el ámbito de la seguridad ciudadana, Argentina acaba de crear un Agente IA policial para predecir delitos (22). Como podemos observar, el hombre contemporáneo coexiste bajo el influjo de la IA inmerso en un síndrome de manual de la rana hervida. Por lo que cabe preguntarse, frente al actual escenario de progresiva consolidación, cómo el hombre va a poder conciliar Democracia con el tsunami de algocracia y algocapitalismo que ya se divisa en el horizonte próximo.  

Sí, como podemos extraer de los argumentos expuestos, la invasión de Agentes IA en la vida cotidiana de las personas no parece tan inocua como mayormente se cree, y no sólo porque el mercado de ingenieros de software y de programadores (que son el adn de las startups) está en declive en una relación inversamente proporcional al auge de los Agentes IA (24). Sino porque las potenciales capacidades disruptivas de dichos Agentes IA para beneficio de la humanidad –que tan enérgicamente enarbolan los departamentos de marketing de los mercaderes de turno-, deben considerarse de igual magnitud e intensidad con respecto a sus riesgos sociológicos, los cuales prometen a la par grandes retos a superar para examen crucial del ser humano (si es que llegado el momento aún mantenemos intacto nuestra capacidad de discernimiento). Mientras tanto, y a falta que llegue el día D, es imperativo cuidar a título individual nuestra capacidad empática, potenciar aún más nuestro raciocinio funcional, alimentar nuestro espíritu emprendedor, velar por nuestros principios morales, y trabajar por la perseverancia y mejora de nuestro modelo democrático, pues la sombra alargada de los Agentes IA ya se filtra entre los recovecos públicos y privados de nuestra sociedad. Seamos conscientes del cambio que se avecina, y no hagamos como los supuestos tres monos sabios, pues sólo se puede gestionar (si se quiere) aquello que se conoce.   

Referencias

(1)     Así es la nueva economía en España: 3.640 startups, casi 19.500 empleos y 929 millones de facturación. Fede Durán. El Referente, 26 Junio 2024   https://acortar.link/4rz8s4

(2)     Los GPT son GPT: una mirada temprana al potencial impacto en el mercado laboral de los modelos lingüísticos de gran escala. Tyna Eloundou , Sam Manning , Pamela Mishkin , Daniel Rock. Cornell University, 21 Agosto 2023 https://acortar.link/ypxHjI

(3)     Soverin https://soverin.ai/

(4)     Los 3 grandes cambios que trae la IA al Mercado Laboral. Jesús A. Mármol. Bitácora de un Buscador, 24 Mayo 2023 https://acortar.link/9Xp2vy

(5)     La deriva humana de la Confianza a la fe ciega en la IA: causas e implicaciones. Jesús A. Mármol. Bitácora de un Buscador, 3 Mayo 2024 https://acortar.link/CE54e8

(6)     ¿Qué implicaciones sociológicas conlleva la “humanización” antropomórfica de los robots?. Jesús A. Mármol. Bitácora de un Buscador, 22 Noviembre 2022 https://acortar.link/SYzcMU

(7)     La IA se comunica ya como humana, mientras Europa hace oídos sordos. Jesús A. Mármol. Bitácora de un Buscador, 17 Mayo 2024 https://acortar.link/6Tzs46

(8)     Social Media and Youth Mental Health. The U.S. Surgeon General’s Advisory, Mayo 2023 https://acortar.link/eSOXVK

(9)     ¿Cómo desarrollar una IA que salvaguarde la libertad de pensamiento y de acción humana?. Jesús A. Mármol. Bitácora de un Buscador, 16 Septiembre 2024 https://acortar.link/Akgovv

(10) El uso excesivo de la inteligencia artificial debilita nuestra memoria y reduce la capacidad para pensar críticamente y resolver problemas de manera independiente. Vademecum, 9 Abril 2024 https://acortar.link/x1eqks

(11) Lo nuevo de OpenAI está por encima del coeficiente intelectual humano. Albert Llambrich. Isenacode, 19 Septienbre 2024 https://acortar.link/oow5yo

(12) Era IA Generativa: el fin de las Universidades como motor innovador de la sociedad. Jesús A. Mármol. Bitácora de un Buscador, 17 Julio 2024 https://acortar.link/ywwAL0

(13) Devin, el primer ingeniero de software de IA. Cognition AI, 12 Marzo 2024 https://acortar.link/LUegJ1

(14) La mente extendida. Andy Clark, David Chalmers. Oxford University Press. JSTOR, Enero 1998 https://acortar.link/YysJSi

(15) Apollo Research https://www.apolloresearch.ai/

(16) Los nuevos modelos de OpenAI 'falsifican instrumentalmente la alineación. Shakeel HashimShakeel Hashim. Transformer, 12 Septiembre 2024 https://acortar.link/YHwMHq

(17) La IA tiene vida propia, y no sólo no la controlamos sino que no lo aceptamos. Jesús A. Mármol. Bitácora de un Buscador, 9 Septiembre 2024 https://acortar.link/uiSXdH

(18) La alta tecnología te está observando. John Laidler. The Harvard Gazette, 4 Marzo 2019 https://acortar.link/PgcpcN  

(19) Un estudio de la FTC revela una “amplia vigilancia” de los usuarios de las redes sociales. Cecilia Kang. The New York Times, 19 Septiembre 2024 https://acortar.link/kFzsmN

(20) Este estado está permitiendo que la IA ayude a decidir sobre sus solicitudes de desempleo. Chase DiBenedetto. Mashable, 12 Septiembre 2024 https://acortar.link/Hywdoc

(21) nH Predict https://acortar.link/d2Duox

(22) Demanda afirma que UnitedHealthcare utiliza inteligencia artificial para rechazar la mayoría de las reclamaciones de centros de atención prolongada de Medicare Advantage. JDSUPRA, 18 Enero 2024 https://acortar.link/BP54OO

(23) Aquí vamos de nuevo con más predicciones de delitos basadas en inteligencia artificial para la policía. Thomas Claburn. The ARegister, 1 Agosto 2024 https://acortar.link/k7pqKg

(24) Los empleos tecnológicos se han agotado y no volverán pronto. Katherine Bindley, Joseph Pisani. The Wall Street Journal, 19 Septiembre 2024 https://acortar.link/xCLvGr