El crecimiento acelerado de la inteligencia artificial está modificando la forma en que las personas interactúan con la tecnología e incluso toman decisiones cotidianas. Sin embargo, este avance también incrementa las exigencias hacia las organizaciones, que ahora enfrentan el desafío de fortalecer la confianza de los usuarios mientras incorporan soluciones cada vez más autónomas.
De acuerdo con el EY AI Sentiment Study, elaborado con la participación de más de 18.000 personas en 23 mercados, el uso de inteligencia artificial continúa expandiéndose pese a las reservas existentes sobre su funcionamiento. El estudio muestra que el 16% de los encuestados ya delegó a estas herramientas acciones realizadas en su nombre durante los últimos seis meses, incluyendo decisiones vinculadas con salud, transporte y servicios financieros.
Según Francisco Escudero, Socio de Consultoría de EY Perú, la velocidad con la que evoluciona esta tecnología obliga a las organizaciones a equilibrar innovación con mecanismos de confianza.
«La IA avanza hacia una mayor autonomía en la toma de decisiones, mientras que la confianza de las personas no crece al mismo ritmo. Esta brecha puede traducirse en riesgos relevantes para las organizaciones y sus stakeholders. Por ello, el verdadero desafío no radica únicamente en incorporarla, sino en hacerlo correctamente. La IA autónoma puede ser un potente acelerador de competitividad, siempre que se tenga claridad sobre dónde avanzar con decisión y dónde priorizar la construcción de confianza, control y transparencia», explica.
Las preocupaciones de los usuarios se concentran principalmente en la protección de la información. El informe señala que aproximadamente dos tercios de los participantes temen sufrir ciberataques o filtraciones de datos, mientras que solo cerca de la mitad expresa confianza en que las empresas administren adecuadamente esa información.
La supervisión humana también adquiere un papel determinante. Siete de cada diez personas consideran indispensable que exista intervención de especialistas en las decisiones tomadas por inteligencia artificial, debido a la posibilidad de que estas no respondan a criterios alineados con sus valores.
A ello se suma una creciente demanda de responsabilidad corporativa. El estudio revela que seis de cada diez encuestados dudan que las organizaciones asuman las consecuencias derivadas de posibles errores de la IA, mientras que el 55% cuestiona el cumplimiento efectivo tanto de las políticas internas como de la normativa vigente.
Para Escudero, la gestión responsable marcará la diferencia en la siguiente etapa de evolución tecnológica.
«A medida que la inteligencia artificial gana autonomía, el foco ya no está solo en su adopción, sino en cómo se gestiona. Las organizaciones deberán responder a nuevas exigencias de las personas en torno a la transparencia, el control y la rendición de cuentas, integrando estos elementos desde el diseño para generar confianza de forma sostenida», señala.
Ante este escenario, EY recomienda a los ejecutivos orientar sus estrategias hacia cuatro ejes: implementar soluciones que aporten valor tangible, adaptar la adopción según el perfil de los usuarios, reforzar prácticas de transparencia y protección de datos, y diseñar experiencias con un enfoque centrado en las personas.
Finalmente, el especialista destaca que esta visión cobra mayor importancia considerando el proceso de transformación digital que vive el país.
«El diseño se ha convertido en el punto de encuentro entre innovación y confianza, especialmente en el Perú, donde —según el último estudio Madurez Digital de EY Perú— el 74% de las organizaciones avanza en su transformación digital, impulsada por la inteligencia artificial, la gestión de datos y la ciberseguridad. En este contexto, cerrar la brecha de confianza en la IA es clave y solo se logra desde la experiencia real de los usuarios: lo que comprenden, perciben y sienten al interactuar con estos sistemas».