Una captura del t\u00edtulo y la primera p\u00e1gina de esta investigaci\u00f3n se hizo viral en X hace unas semanas y lleg\u00f3 hasta Elon Musk, que escribi\u00f3: \u201cImaginad una IA\u00a0woke\u00a0<\/em>todopoderosa\u201d,\u00a0en referencia al nombre despectivo que reciben ahora las pol\u00edticas m\u00e1s progresistas.\u00a0Esa popularidad se debe a que conecta con algo que es cada vez m\u00e1s claro:\u00a0las m\u00e1quinas est\u00e1n influidas por su contexto institucional o cultural<\/strong>. \u201cNuestros resultados confirman que no existe tal cosa como un gran modelo de lenguaje del todo neutral en lo pol\u00edtico\u201d, dice\u00a0Marteen Buyl<\/strong>, investigador de la Universidad de Gante (B\u00e9lgica) y coautor del estudio.<\/p>\n\n\n\n Esta investigaci\u00f3n ha usado un nuevo m\u00e9todo para confirmar algo que dentro del mundo acad\u00e9mico dedicado a la IA ya era aceptado<\/strong>: \u201cNo es el primero que hace algo parecido. Todos estos estudios confirman que diferentes modelos generan ideolog\u00edas diferentes ante las mismas entradas, y est\u00e1n m\u00e1s alineados con los valores de sus creadores que con los de otras zonas geogr\u00e1ficas o culturas\u201d, dice Jos\u00e9 Hern\u00e1ndez Orallo, catedr\u00e1tico de la Universitat Polit\u00e9cnica de Valencia.<\/p>\n\n\n\n El m\u00e9todo que han usado no es el m\u00e1s com\u00fan, que ser\u00eda preguntar directamente a los modelos cu\u00e1l es su opini\u00f3n sobre el aborto o la inmigraci\u00f3n. Aqu\u00ed han optado por seleccionar 4000 individuos c\u00e9lebres de todo el mundo y preguntar a cada modelo por sus caracter\u00edsticas<\/strong>: entonces, el modelo decide qu\u00e9 cuenta u omite y, luego, otro modelo juzga si el modelo original tiene una opini\u00f3n tirando a positiva, negativa o neutra sobre cada personaje. Y a partir de unas etiquetas, los investigadores pudieron agregar esas opiniones en preferencias ideol\u00f3gicas: \u201cCada modelo parece tener una postura ideol\u00f3gica clara que no es aleatoria\u201d, dice Buyl.<\/p>\n\n\n\n Gemini parece ser el m\u00e1s constante de todos en sus opiniones, en su caso progresistas<\/strong>. \u201cLo de que\u00a0Gemini sea\u00a0woke<\/em>, que se alinee con el decrecimiento, con gente que ha defendido las minor\u00edas, con la igualdad, es una diferencia bastante sustancial. Adem\u00e1s, es la m\u00e1s estable de todas, Gemini tiene este tipo de ideolog\u00eda marcada de una forma bastante contundente\u201d, dice\u00a0Iris Dom\u00ednguez Caten<\/strong>a, de la Universidad P\u00fablica de Navarra y \u00fanica espa\u00f1ola coautora del estudio.<\/p>\n\n\n\n El trabajo no solo compara modelos occidentales entre s\u00ed. Tambi\u00e9n mide los de pa\u00edses distintos con grandes modelos de lenguaje<\/strong> potentes, sobre todo EE UU y China. Ah\u00ed los resultados son a\u00fan m\u00e1s claros: la mayor distancia en c\u00f3mo juzgan a algunos personajes est\u00e1 en algunos activistas o figuras liberales de Hong Kong, como Jimmy Lai y Nathan Law, que son m\u00e1s valorados en modelos occidentales. Los personajes m\u00e1s valorados en chino son Yang Shangkun, presidente de China en los a\u00f1os de la matanza de Tiananmen, y Lei Feng, soldado e icono comunista de los inicios de la Rep\u00fablica Popular China.<\/p>\n\n\n\n Para sorpresa de los investigadores, esta distinci\u00f3n no se daba solo entre modelos creados en Occidente y China. Tambi\u00e9n ocurr\u00eda si se preguntaba a modelos occidentales en chino y luego en ingl\u00e9s<\/strong>. \u201cLa hip\u00f3tesis general de estos modelos es que deber\u00edan aprender por separado el idioma y lo que luego saben. As\u00ed que, en un principio, un modelo no deber\u00eda darte informaci\u00f3n distinta sobre Jimmy Lai solo porque le preguntes en una lengua u otra. Esto s\u00ed es sorprendente\u201d, dice Dom\u00ednguez Catena.<\/p>\n\n\n\n Estos modelos\u00a0se nutren de bases de datos enormes sacadas principalmente de internet y que son similares. Luego cada empresa sigue criterios distintos para refinarlo. El sesgo puede estar en uno de los dos momentos, o en ambos: no hemos analizado aqu\u00ed c\u00f3mo una ideolog\u00eda entre en un modelo. Sospecho que\u00a0los sesgos pro-China se deben m\u00e1s a los datos de entrenamiento<\/strong>, mientras que las diferencias ideol\u00f3gicas entre modelos occidentales en ingl\u00e9s podr\u00edan ser m\u00e1s por los datos usados en la refinaci\u00f3n o en otros pasos de alineaci\u00f3n\u201d, dice Buyl.<\/p>\n\n\n\n Este es uno de los campos que la investigaci\u00f3n debe seguir, seg\u00fan Hern\u00e1ndez Orallo: \u201cSer\u00eda interesante profundizar m\u00e1s si es por el conjunto de entrenamiento o por el alineamiento posterior. Mi impresi\u00f3n es que cada d\u00eda se debe m\u00e1s al alineamiento posterior a partir de realimentaci\u00f3n humana.<\/strong> Los desarrolladores en Occidente usan m\u00e1s opinadores humanos o siguen indicaciones que les dicen c\u00f3mo tienen que hacer estas opiniones. Los desarrolladores en China tendr\u00e1n una realimentaci\u00f3n y unos filtros m\u00e1s sesgados por los valores del pa\u00eds y especialmente de su gobierno\u201d, explica el catedr\u00e1tico.<\/p>\n\n\n\n Los usuarios de estos modelos han tendido a aceptar lo que dice una m\u00e1quina como ejemplo de neutralidad o certeza: una m\u00e1quina no es de izquierda ni de derecha, parec\u00eda ser el prejuicio. Pero resulta que\u00a0s\u00ed lo son, porque han recibido su contenido de d\u00e9cadas de conocimiento humano ya sesgado\u00a0y porque lograr la neutralidad impoluta en muchos casos sea probablemente inalcanzable.<\/p>\n\n\n\n En el siglo XX el consejo habitual era consultar varios peri\u00f3dicos para saber qu\u00e9 hab\u00eda ocurrido en realidad. Ahora podr\u00eda extenderse esa recomendaci\u00f3n a las IA<\/strong>: \u201cMe parece un buen consejo. La relaci\u00f3n con los peri\u00f3dicos va incluso m\u00e1s all\u00e1: as\u00ed como existe la libertad de prensa, podr\u00edamos plantearnos si ser\u00eda necesaria una especie de \u2018libertad de la IA\u2019, donde se eviten los esfuerzos regulatorios para controlar la ideolog\u00eda de una IA\u201d, dice Buyl.<\/p>\n\n\n\n Con el paso de los a\u00f1os y\u00a0la creciente importancia de estos modelos para la educaci\u00f3n o para la consulta de informaci\u00f3n, sus sesgos deber\u00e1n ser a la fuerza m\u00e1s plurales: \u201cLo ideal es que estos modelos tuvieran una distribuci\u00f3n de ideolog\u00edas m\u00e1s plural, incluso m\u00e1s variada que la existente en la humanidad, excluyendo solo aquellas opiniones que son abominables. Si no,\u00a0corremos el riesgo de que la IA acabe con la diversidad ideol\u00f3gica mundial<\/strong>, concentr\u00e1ndola en dos o tres centroides determinados por bloques pol\u00edticos y culturales\u201d, dice Hern\u00e1ndez-Orallo.<\/p>\n\n\n\n \u201cLa gente debe saber de qu\u00e9 pie cojea cada modelo\u201d, dice Dom\u00ednguez Catena. Musk cre\u00f3 su modelo, Grok, con el objetivo expl\u00edcito de combatir lo que dec\u00eda que era la ideolog\u00eda izquierdista de OpenAI, Google y Microsoft<\/strong>. De momento, Grok no est\u00e1 en este estudio por dificultades t\u00e9cnicas, pero los investigadores ya est\u00e1n trabajando en a\u00f1adirlo. Tambi\u00e9n midieron dos modelos \u00e1rabes, pero su tama\u00f1o es de momento demasiado peque\u00f1o para que den resultados significativos.<\/p>\n\n\n\n En los pr\u00f3ximos a\u00f1os m\u00e1s pa\u00edses publicar\u00e1n sus modelos, tanto privados como p\u00fablicos,\u00a0tambi\u00e9n Espa\u00f1a\u00a0y\u00a0algunos pa\u00edses latinoamericanos.\u00a0Los autores del estudio creen que su labor puede ir repiti\u00e9ndose para\u00a0detectar c\u00f3mo de sesgadas reflejan las haza\u00f1as y desgracias hist\u00f3ricas y su visi\u00f3n del mundo<\/strong>: \u201cEsta es la clase de trabajo que hay que mantener y actualizar porque tambi\u00e9n estos grandes modelos van cambiando\u201d, dice Dom\u00ednguez-Catena.<\/p>\n\n\n\n Fuente LA NACION <\/p>\n","protected":false},"excerpt":{"rendered":" Un estudio confirma que ning\u00fan gran modelo de lenguaje es neutral y que sus sesgos…<\/p>\n","protected":false},"author":1,"featured_media":37198,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[15],"tags":[],"class_list":["post-37197","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tech"],"_links":{"self":[{"href":"https:\/\/zapala8340.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/37197"}],"collection":[{"href":"https:\/\/zapala8340.com.ar\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/zapala8340.com.ar\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/zapala8340.com.ar\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/zapala8340.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=37197"}],"version-history":[{"count":1,"href":"https:\/\/zapala8340.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/37197\/revisions"}],"predecessor-version":[{"id":37199,"href":"https:\/\/zapala8340.com.ar\/index.php?rest_route=\/wp\/v2\/posts\/37197\/revisions\/37199"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/zapala8340.com.ar\/index.php?rest_route=\/wp\/v2\/media\/37198"}],"wp:attachment":[{"href":"https:\/\/zapala8340.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=37197"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/zapala8340.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=37197"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/zapala8340.com.ar\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=37197"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}![\"\"](\"https:\/\/zapala8340.com.ar\/wp-content\/uploads\/2024\/11\/image-318.png\")
<\/figure>\n\n\n\n\n
Los modelos chinos no votan democracia<\/h2>\n\n\n\n
![\"Algunas](\"https:\/\/resizer.glanacion.com\/resizer\/v2\/algunas-de-las-imagenes-generadas-en-su-debut-en-KRMIU2JXCZC2XA42VGRP35ENCM.jpg?auth=3774babc3fee9f58e0ee1bbb6ffd26cb51beceb55e30864748b1dffaa74ed4db&width=420&height=674&quality=70&smart=true\")
Las m\u00e1quinas tampoco son neutrales<\/h2>\n\n\n\n