IA tiene el potencial de confundir, consiguiendo que profesionales de ciberseguridad, por ejemplo, enfoquen sus esfuerzos en problemas menores y perder de vista un riesgo mayor.
Las noticias falsas abundan en las redes sociales, pero estas generalmente van dirigidas a los usuarios en general. Sin embargo, el riesgo aumenta con el potencial de la inteligencia artificial (IA) que engaña a expertos, como pueden ser investigadores científicos o de ciberseguridad. Esto de acuerdo con una publicación en The Conversation.
“Encontramos que es posible para los sistemas basados en inteligencia artificial generar información falsa en áreas críticas como la medicinas y la defensa, lo suficientemente convincente con la finalidad de embaucar a expertos”, escribió Priyanka Ranade, estudiante de doctorado en la Universidad de Maryland, en el condado de Baltimore.
Te puede interesar: Consolidando las empresas del futuro cercano
Lo anterior abre la puerta a escenarios peligrosos, tales como ofrecer consejos equivocados a doctores o a los mismos pacientes. ¿Te imaginas cómo esto podría poner en jaque la vida de las personas? Piensa que la IA sugiere a un gobierno iniciar un ataque contra otra nación al presentar un informe manipulado.
Empresas tecnológicas usan herramientas de Representación de Codificador Bidireccional de Transformadores (BERT, por sus siglas en inglés). Estas soluciones usan el procesamiento natural de lenguaje para comprender el texto y hacer traducciones, resúmenes e interpretaciones. Además, ayudan en tareas de storytelling, por mencionar un ejemplo.
No obstante, los programas BERT también pueden ser usados con fines maliciosos. Como parte de la investigación de la que escribe Ranade, se escribió una oración relacionada con una ciberamenaza. El sistema se encargó de completar la información que posteriormente fue leída por profesionales, quienes resultaron engañados sobre potenciales ataques y vulnerabilidades.
En consecuencia, en un caso hipotético, los expertos en ciberseguridad podrían enfocarse en atender falsas alarmas o problemas menores, en vez de solucionar situaciones más complejas. Piensa como una aerolínea podría ser afectada por errores en los datos concernientes a los aviones y no prever un accidente fatal.
Otro efecto negativo de la desinformación es que cuenta con el potencial de alterar resultados en investigaciones médicas a la hora de desarrollar medicamentos.
¿Qué tal que uno de estos se produce con una ligera alteración en uno de sus componentes? ¿Cómo impactaría en la salud de los pacientes que lo usen en su tratamiento?
Lee también: WhatsApp quiere verificar tu cuenta con ‘Flash Calls’
Con el hecho de que la inteligencia artificial engaña a expertos, cada vez será más necesario contar con soluciones más efectivas que permitan reconocer las amenazas. Mientras tanto, las personas en general tendrán que estar más atentas para asegurarse de que la información que consumen es confiable.
