Expertos advierten de las brechas de seguridad en la inteligencia artificial y de los ciberataques realizados por robots.
\n2020 fue un a\u00f1o prol\u00edfico en ciberataques. Un 53% de empresas espa\u00f1olas notific\u00f3 haber sido v\u00edctima de al menos un ataque en su sistema inform\u00e1tico. As\u00ed lo se\u00f1ala la quinta edici\u00f3n del \u2018Informe de cibrepreparaci\u00f3n\u2019 de Hiscox.
\nAdem\u00e1s, estos ciberataques se est\u00e1n volviendo m\u00e1s graves. Antes de que acabara el a\u00f1o, el CNI hab\u00eda detectado 6.690 incidentes de peligrosidad muy alta. Por su parte, el Centro Criptol\u00f3gico Nacional (CCN) encontr\u00f3 73.184 ciberamenazas totales a lo largo del a\u00f1o. Esto supone un aumento del 70% respecto al a\u00f1o anterior.
\nEsto ha alimentado el miedo a una rebeli\u00f3n de las m\u00e1quinas y a que los robots se conviertan en hackers, realidad que los expertos no descartan. En alg\u00fan momento, puede que quienes pirateen nuestros sistemas sean hackers no humanos.
\nEl lado oscuro del big data puede conducirnos a esa realidad dist\u00f3pica. Lo advierten expertos como Josep Curto, profesor de los Estudios de Inform\u00e1tica, Multimedia y Telecomunicaci\u00f3n de la Universitat Oberta de Catalunya (UOC).
\n\u00abBusca automatizar tareas de toda \u00edndole, desde la asignaci\u00f3n de un cr\u00e9dito hasta la selecci\u00f3n de personal. Y el uso de algoritmos no est\u00e1 libre de errores, bugs, omisiones, prop\u00f3sitos espec\u00edficos y sesgos de todo tipo. Esto puede provocar problemas sociales, econ\u00f3micos y pol\u00edticos\u00bb, afirma, haciendo referencia a la inteligencia artificial actual basada en el big data.
\n\u00bfC\u00f3mo la inteligencia artificial puede llegar a convertirse en hackers?
\nPero \u00bfc\u00f3mo pueden llegar a provocar ciberataques? Seg\u00fan Jordi Serra, tambi\u00e9n profesor de los Estudios de Inform\u00e1tica, Multimedia y Telecomunicaci\u00f3n, esta es la manera de trabajar de los algoritmos:
\n\u00abVa m\u00e1s all\u00e1 de lo que una persona pueda pensar. Se pueden programar pensando que har\u00e1n, por ejemplo, una clasificaci\u00f3n concreta y al final que lo hagan de otra manera, aunque el resultado s\u00ed puede ser id\u00e9ntico al que se hab\u00eda pensado\u00bb.
\nNosotros vemos datos que obtenemos de diferentes fuentes, d\u00e1ndoles contexto y entendi\u00e9ndolos. Los sistemas de inteligencia artificial lo que hacen es buscar relaciones entre esos datos, m\u00e1s all\u00e1 de lo que puedan significar. \u00abAl ser m\u00e1s r\u00e1pidas, pueden encontrar relaciones entre los datos que los humanos no pensamos por tener ese conocimiento previo que nos hace pensar en que a lo mejor dos datos no est\u00e1n relacionados\u00bb, explica.
\nEsto significa que, mientras los humanos tenemos una manera de pensar predeterminada a partir de la experiencia y del conocimiento que tenemos previo, las m\u00e1quinas no. \u00abEl control de las m\u00e1quinas no se tiene\u00bb, a\u00f1ade Serra.
\nLa forma de evitar los ciberataques por parte de robots
\nLos sistemas de IA siguen mecanismos para detectar patrones y encontrar soluciones \u00f3ptimas. Eso puede hacer que lleguen a casos que se denominan como \u2018reward hacking\u2019. Estos se traducen en tener el objetivo de lograr la mayor optimizaci\u00f3n en el problema que resuelven, pero sin tener en cuenta el contexto, la regulaci\u00f3n o la \u00e9tica.
\n\u00abIdentificar estos problemas pasa por analizar los modelos generados mediante interpretabilidad antes y durante su puesta a producci\u00f3n. Es decir, se trata de monitorizar el modelo, c\u00f3mo toma decisiones, qu\u00e9 sesgos le afectan, c\u00f3mo evoluciona su rendimiento\u2026 Se trata, en definitiva, de introducir el gobierno de IA\u00bb, comenta Curto.
\nSin embargo, hay algunas dificultades para llevarlo a cabo. Por ejemplo, que la IA es, en opini\u00f3n de Serra, cada vez m\u00e1s opaca. Los expertos se debaten entre si se le est\u00e1 dando demasiado poder a la tecnolog\u00eda basada en IA o si se est\u00e1 infravalorando la protecci\u00f3n de la seguridad en este campo.
\n\u00abMuchas organizaciones no tienen claro ni c\u00f3mo funcionan los sistemas de IA ni c\u00f3mo gobernarlos de forma adecuada ni tampoco el impacto social, por lo que no se toman en cuenta medidas de protecci\u00f3n adecuadas en todo el ciclo del sistema\u00bb, asegura Curto.
\n\u00abA medida que digitalizamos todos los procesos de negocio, muchas empresas van a apostar por IA para extraer valor de estos activos. Pero sin principios \u00e9ticos, identificaci\u00f3n de sesgos, comprensi\u00f3n de c\u00f3mo funcionan los algoritmos, los l\u00edmites de c\u00f3mo funcionan\u2026 ser\u00e1 natural caer en escenarios como los comentados, ya sea por omisi\u00f3n o con premeditaci\u00f3n y alevos\u00eda\u00bb, advierte Josep Curto.<\/p>\n
No te pierdas nada de MarketingDirecto.com y \u00fanete a nuestro Telegram t.me\/MarketingDirecto<\/p>\n