Los agentes de IA, la privacidad y la ética están disminuyendo la confianza
Es fácil hablar de agentes de IA, pero introducirlos en las organizaciones parece más complicado de lo esperado. El entusiasmo inicial ha dado paso a la cautela, especialmente en relación con dos cuestiones —privacidad y ética— que han provocado un desplome de la confianza, que ha pasado del 43 % de las organizaciones al 27 %. Esto a pesar de que los agentes de IA se presentan como "colegas" capaces de liberar un enorme potencial dentro de las organizaciones. Un informe del Instituto de Investigación Capgemini, "El auge de la IA agéntica: Cómo la confianza es la clave para la colaboración entre humanos e IA", estima que la IA agéntica podrá generar un valor económico de hasta 450 000 millones de dólares a nivel mundial para 2028. A pesar de ello, por un lado, el número de empresas que afirman tener confianza está disminuyendo, mientras que, por otro, dos de cada cinco ejecutivos a nivel mundial creen que los riesgos superan los beneficios en esta etapa, según el informe, realizado entre 1500 ejecutivos de organizaciones con ingresos anuales superiores a los 1000 millones de dólares, en 14 países, incluida Italia, y en 13 sectores diferentes.
En realidad, la rápida evolución de las nuevas herramientas de Inteligencia Artificial demuestra la necesidad de que las organizaciones se adapten de forma sostenible para todos. Si bien un porcentaje significativo de empresas utiliza IA con agentes para fines de soporte, la situación es diferente cuando se trata del uso autónomo. Solo el 40 % de las empresas afirma confiar en los agentes de IA para gestionar tareas y procesos de forma autónoma, mientras que la mayoría no confía plenamente en la tecnología.
Las organizaciones italianas, en línea con las tendencias globales, tienen menos confianza en los agentes de IA que en 2024. Aproximadamente el 60 % de las organizaciones italianas están preocupadas por los problemas de privacidad, los riesgos de seguridad y el riesgo de sesgo indeseado relacionado con el uso de la IA de Agentic. Durante los próximos 12 meses, las organizaciones italianas esperan que la colaboración con la IA se traduzca en un aumento de las habilidades de los miembros del equipo, mientras que, de cara a los próximos tres años, las mismas organizaciones visualizan a los agentes de IA como miembros autónomos de equipos supervisados por humanos.
El desglose de los datos italianos destaca un enfoque diferente a corto y medio plazo y una evolución de las funciones involucradas. Así, durante los próximos 12 meses, entre las funciones empresariales donde las organizaciones esperan que los agentes de IA gestionen al menos un proceso o subproceso al día, destacan Ventas, TI, Marketing y Comunicación, y Finanzas. Al ampliar el plazo a tres años, la lista crece, y Operaciones también se encuentra entre las funciones que las organizaciones italianas creen que se verán más afectadas por la IA Agentic.
Según Monia Ferrari, CEO de Capgemini en Italia, «el potencial económico de los agentes de IA es enorme, pero convertirlo en realidad requiere más que solo tecnología: requiere una transformación estratégica y estructurada que involucre a personas, procesos y sistemas. Para tener éxito, las organizaciones deben centrarse en los resultados, replanteando sus procesos con una visión que priorice la IA. En el centro de esta transformación se encuentra la necesidad de generar confianza mediante el desarrollo de la IA de forma ética y segura desde las primeras etapas. Las estructuras organizativas también deben rediseñarse para fomentar una sinergia efectiva entre los humanos y la IA, creando las condiciones para aprovechar el criterio humano y lograr mejores resultados empresariales».
El panorama italiano emergente, a pesar de sus características únicas, no difiere mucho del panorama global. Mientras que una cuarta parte (26%) de las organizaciones italianas ya ha implementado soluciones de IA de Agentic a escala parcial, otro 27% apenas ha comenzado a explorar el potencial de la tecnología. El 36% de las organizaciones italianas encuestadas no cuenta con una estrategia, pero cuenta con iniciativas en varios departamentos para desarrollar y escalar, mientras que el 28% de la muestra italiana cuenta con una estrategia y una hoja de ruta para las iniciativas de IA de Agentic. Un aspecto que distingue a Italia del resto de la muestra internacional es que el 84% de la muestra italiana, significativamente mayor que la muestra global (62%), prefiere colaborar con proveedores de soluciones para implementar y adaptar los agentes de IA disponibles en lugar de crear soluciones propietarias.
A nivel mundial, al igual que en Italia, el entusiasmo de muchos directivos se está viendo con cautela en las organizaciones. Casi una cuarta parte ya ha lanzado proyectos piloto y el 14% ha avanzado hacia la implementación, pero la mayoría aún se encuentra en la fase de planificación. Capgemini señala que este ritmo relativamente lento contrasta con la ambición de los ejecutivos: el 93% cree que la implementación de agentes de IA en los próximos 12 meses será una fuente de ventaja competitiva. Sin embargo, casi la mitad de las empresas aún carecen de una estrategia de implementación clara.
A corto plazo, Capgemini cree que los agentes de IA se adoptarán ampliamente en atención al cliente, TI y ventas, antes de expandirse a operaciones, investigación y desarrollo, y marketing en los próximos tres años. Sin embargo, la mayoría de las implementaciones aún se limitan a niveles iniciales de autonomía: solo el 15 % de los procesos de negocio operan en modo semiautónomo o totalmente autónomo. Se espera que este porcentaje aumente al 25 % para 2028, pero actualmente, la mayoría de los agentes aún funcionan como asistentes o copilotos, apoyando tareas rutinarias en lugar de gestionar de forma autónoma flujos de trabajo complejos.
Si bien la sinergia entre humanos e IA es clave para una adopción sostenida, la crisis de confianza en las organizaciones parece problemática. El verdadero valor de la IA agencial también reside en su capacidad para replantear nuestra forma de trabajar. En los próximos 12 meses, más del 60 % de las empresas planean establecer equipos híbridos entre humanos e IA, donde los agentes apoyarán o ampliarán las capacidades humanas. En este nuevo panorama, los agentes de IA ya no se consideran simplemente herramientas, sino miembros activos del equipo. El 70 % de las empresas cree que la adopción de agentes de IA conducirá a una reestructuración organizacional, lo que conllevará a un replanteamiento de los roles, las estructuras de los equipos y los flujos de trabajo. Las empresas están descubriendo que el mayor valor se obtiene cuando los humanos siguen involucrados. La colaboración eficaz entre humanos e IA podría aumentar la participación en actividades de mayor valor en un 65 %, estimular la creatividad (+53 %) y mejorar la satisfacción de los empleados (+49 %).
Noticias e información sobre eventos políticos, económicos y financieros.
Inscribirse
ilsole24ore
