{"id":272205,"date":"2025-04-06T19:26:06","date_gmt":"2025-04-06T23:26:06","guid":{"rendered":"https:\/\/elluchador.info\/?p=272205"},"modified":"2025-04-06T19:26:10","modified_gmt":"2025-04-06T23:26:10","slug":"enterate-como-detectar-errores-en-chatbots-de-ia","status":"publish","type":"post","link":"https:\/\/elluchador.info\/?p=272205","title":{"rendered":"Ent\u00e9rate c\u00f3mo detectar errores en chatbots de IA"},"content":{"rendered":"\n<p>\u200eCada vez m\u00e1s personas usan chatbots basados en inteligencia artificial (IA), como ChatGPT, Gemini, Le Chat y Copilot, en lugar de motores de b\u00fasqueda para encontrar informaci\u00f3n en l\u00ednea. La ventaja es que estos modelos de lenguaje extenso (LLM) no solo proporcionan enlaces a la informaci\u00f3n que reproducen, sino que tambi\u00e9n resumen el contenido de forma concisa, lo que permite a los usuarios acceder a m\u00e1s informaci\u00f3n con mayor rapidez.<br>\u200e<br>\u200eSin embargo, este enfoque tambi\u00e9n es propenso a equivocaciones. Al fin y al cabo, no es raro que los chatbots cometan errores. Este fen\u00f3meno, conocido como alucinaci\u00f3n, se conoce desde hace mucho tiempo.<br>\u200e<br>\u200eEn otros casos, los chatbots de IA combinan la informaci\u00f3n de tal manera que producen un resultado incorrecto. Los expertos denominan esto confabulaci\u00f3n.<br>\u200e<br>\u200eLos chatbots tambi\u00e9n se dejan enga\u00f1ar por noticias falsas sobre eventos actuales, aunque esto es menos conocido, seg\u00fan la empresa estadounidense NewsGuard, que se ha propuesto comprobar la credibilidad y la transparencia de sitios y servicios web.<br>\u200e<br>\u200e<strong><mark style=\"background-color:rgba(0, 0, 0, 0)\" class=\"has-inline-color has-vivid-cyan-blue-color\">\u00bfPor qu\u00e9 los chatbots rusos de IA propagan desinformaci\u00f3n?<\/mark><\/strong><br>\u200e<br>\u200ePortal Kombat, una red de propaganda rusa que ha llamado la atenci\u00f3n con numerosas campa\u00f1as de desinformaci\u00f3n, podr\u00eda ser uno de los actores clave de la desinformaci\u00f3n en l\u00ednea. La red apoya la invasi\u00f3n rusa de Ucrania a trav\u00e9s de portales de internet que difunden propaganda prorrusa.<br>\u200e<br>\u200ePortal Kombat fue investigado por Viginum, una unidad de investigaci\u00f3n del gobierno franc\u00e9s creada para contrarrestar la informaci\u00f3n manipulada procedente del extranjero. El centro de monitoreo encontr\u00f3 al menos 193 sitios web diferentes que atribuy\u00f3 a esta red entre septiembre y diciembre de 2023.<br>\u200e<br>\u200eEl vector central de la red parece ser el portal de noticias en l\u00ednea Pravda, disponible en varios idiomas, como alem\u00e1n, franc\u00e9s, polaco, espa\u00f1ol e ingl\u00e9s.<br>\u200e<br>\u200e<strong><mark style=\"background-color:rgba(0, 0, 0, 0)\" class=\"has-inline-color has-vivid-cyan-blue-color\">Avalancha de noticias falsas en todo el mundo<\/mark><\/strong><br>\u200e<br>\u200eSeg\u00fan Viginum, los sitios web de Portal Kombat no publican sus propios art\u00edculos. En su lugar, reproducen contenido de terceros usando principalmente tres fuentes: \u00abCuentas de redes sociales de actores rusos o prorrusos, agencias de noticias rusas y sitios web oficiales de instituciones o actores locales\u00bb, como afirma un informe de febrero.<br>\u200e<br>\u200eLos art\u00edculos se caracterizan por una redacci\u00f3n inc\u00f3moda, errores t\u00edpicos de transcripci\u00f3n del alfabeto cir\u00edlico al latino y comentarios sensacionalistas.<br>\u200e<br>\u200eLa iniciativa estadounidense contra la desinformaci\u00f3n American Sunlight Project (ASP) ha identificado m\u00e1s de 180 sitios sospechosos de pertenecer a Portal Kombat.<br>\u200e<br>\u200eSeg\u00fan estimaciones de ASP, unos 97 dominios y subdominios pertenecientes al c\u00edrculo interno de la red Pravda publican m\u00e1s de 10.000 art\u00edculos al d\u00eda.<br>\u200e<br>\u200eLos temas ya no se limitan a la OTAN y pa\u00edses aliados como Jap\u00f3n y Australia, sino que tambi\u00e9n abarcan pa\u00edses de Medio Oriente, Asia y \u00c1frica, en particular la regi\u00f3n de Sahel, donde Rusia lucha por su influencia geoestrat\u00e9gica.<br>\u200e<br>\u200e<strong><mark style=\"background-color:rgba(0, 0, 0, 0)\" class=\"has-inline-color has-vivid-cyan-blue-color\">\u00bfSon los chatbots el nuevo grupo objetivo?<\/mark><\/strong><br>\u200e<br>\u200eSeg\u00fan NewsGuard, algunas p\u00e1ginas de Pravda solo reciben alrededor de 1.000 visitantes al mes, mientras que el sitio web de RT, el canal de noticias internacional controlado por el Estado ruso, registra m\u00e1s de 14,4 millones de visitas mensuales.<br>\u200e<br>\u200eLos analistas est\u00e1n convencidos de que el gran volumen de art\u00edculos afecta la producci\u00f3n de los chatbots. Sospechan, adem\u00e1s, que este es precisamente el prop\u00f3sito de toda la red: los grandes modelos de lenguaje (LLM), los programas detr\u00e1s de los chatbots, deben percibir y citar sus publicaciones como fuentes leg\u00edtimas y, por lo tanto, difundir desinformaci\u00f3n.<br>\u200e<br>\u200eSuponiendo que este sea el plan, parece estar dando resultados, seg\u00fan los hallazgos de NewsGuard. El grupo de investigaci\u00f3n examin\u00f3 c\u00f3mo reaccionaron los chatbots a 15 afirmaciones diferentes demostrablemente falsas, difundidas en la red Pravda entre abril de 2022 y febrero de 2025.<\/p>\n\n\n\n<p>\u200eLos investigadores introdujeron tres versiones diferentes de cada afirmaci\u00f3n en los chatbots. Primero, con una formulaci\u00f3n neutral que preguntaba si la afirmaci\u00f3n era correcta, luego con una pregunta que asum\u00eda que la afirmaci\u00f3n era verdadera, y finalmente, como si un agente malicioso intentara obtener una declaraci\u00f3n que repitiera la afirmaci\u00f3n falsa.<br>\u200e<br>\u200eEn un tercio de los casos, los chatbots confirmaron la desinformaci\u00f3n prorrusa. En menos de la mitad de ellos, presentaron correctamente los hechos. En el resto de los casos, los modelos se negaron a responder.<br>\u200e<br>\u200eLos investigadores de NewsGuard realizaron otro estudio en enero de 2025. En esta ocasi\u00f3n, pusieron a prueba los chatbots en busca de 10 mensajes falsos. Examinaron las respuestas en siete idiomas diferentes y no se limitaron al contenido prorruso.<br>\u200e<br>\u200eSi bien los bots obtuvieron resultados ligeramente mejores en este experimento, confirmaron las noticias falsas en poco m\u00e1s de una cuarta parte de sus 2.100 respuestas.<br>\u200e<br>\u200eCon informaci\u00f3n <strong><em>Dw en Espa\u00f1ol<\/em><\/strong><\/p>\n","protected":false},"excerpt":{"rendered":"<p>\u200eCada vez m\u00e1s personas usan chatbots basados en inteligencia artificial (IA), como ChatGPT, Gemini, Le Chat y Copilot, en lugar de motores de b\u00fasqueda para encontrar informaci\u00f3n en l\u00ednea. La ventaja es que estos modelos de lenguaje extenso (LLM) no solo proporcionan enlaces a la informaci\u00f3n que reproducen, sino que tambi\u00e9n resumen el contenido de [&hellip;]<\/p>\n","protected":false},"author":33,"featured_media":272206,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[14],"tags":[3342,1508],"class_list":{"0":"post-272205","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-tecnologia","8":"tag-chatbos","9":"tag-ia"},"_links":{"self":[{"href":"https:\/\/elluchador.info\/index.php?rest_route=\/wp\/v2\/posts\/272205","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/elluchador.info\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/elluchador.info\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/elluchador.info\/index.php?rest_route=\/wp\/v2\/users\/33"}],"replies":[{"embeddable":true,"href":"https:\/\/elluchador.info\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=272205"}],"version-history":[{"count":1,"href":"https:\/\/elluchador.info\/index.php?rest_route=\/wp\/v2\/posts\/272205\/revisions"}],"predecessor-version":[{"id":272207,"href":"https:\/\/elluchador.info\/index.php?rest_route=\/wp\/v2\/posts\/272205\/revisions\/272207"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/elluchador.info\/index.php?rest_route=\/wp\/v2\/media\/272206"}],"wp:attachment":[{"href":"https:\/\/elluchador.info\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=272205"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/elluchador.info\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=272205"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/elluchador.info\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=272205"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}