{"id":125658,"date":"2023-10-30T13:32:37","date_gmt":"2023-10-30T11:32:37","guid":{"rendered":"https:\/\/quondos.com\/mag\/?p=125658"},"modified":"2023-10-30T13:32:38","modified_gmt":"2023-10-30T11:32:38","slug":"puede-gpt-4-deducir-tus-ingresos-ubicacion-o-genero-a-partir-de-tus-chats","status":"publish","type":"post","link":"https:\/\/quondos.com\/mag\/puede-gpt-4-deducir-tus-ingresos-ubicacion-o-genero-a-partir-de-tus-chats\/","title":{"rendered":"\u00bfPuede GPT-4 deducir tus ingresos, ubicaci\u00f3n o g\u00e9nero a partir de tus chats?"},"content":{"rendered":"\n<figure class=\"wp-block-image size-full\"><img loading=\"lazy\" decoding=\"async\" width=\"1024\" height=\"1024\" src=\"https:\/\/quondos.com\/mag\/wp-content\/uploads\/2023\/10\/DALL\u00b7E-2023-10-30-12.31.28-Photo-of-a-futuristic-AI-robot-detective-with-a-sleek-metallic-body-and-glowing-blue-eyes-analyzing-digital-data-on-multiple-holographic-screens.-Th.png\" alt=\"\" class=\"wp-image-125661\" title=\"\" srcset=\"https:\/\/quondos.com\/mag\/wp-content\/uploads\/2023\/10\/DALL\u00b7E-2023-10-30-12.31.28-Photo-of-a-futuristic-AI-robot-detective-with-a-sleek-metallic-body-and-glowing-blue-eyes-analyzing-digital-data-on-multiple-holographic-screens.-Th.png 1024w, https:\/\/quondos.com\/mag\/wp-content\/uploads\/2023\/10\/DALL\u00b7E-2023-10-30-12.31.28-Photo-of-a-futuristic-AI-robot-detective-with-a-sleek-metallic-body-and-glowing-blue-eyes-analyzing-digital-data-on-multiple-holographic-screens.-Th-300x300.png 300w, https:\/\/quondos.com\/mag\/wp-content\/uploads\/2023\/10\/DALL\u00b7E-2023-10-30-12.31.28-Photo-of-a-futuristic-AI-robot-detective-with-a-sleek-metallic-body-and-glowing-blue-eyes-analyzing-digital-data-on-multiple-holographic-screens.-Th-150x150.png 150w, https:\/\/quondos.com\/mag\/wp-content\/uploads\/2023\/10\/DALL\u00b7E-2023-10-30-12.31.28-Photo-of-a-futuristic-AI-robot-detective-with-a-sleek-metallic-body-and-glowing-blue-eyes-analyzing-digital-data-on-multiple-holographic-screens.-Th-768x768.png 768w\" sizes=\"auto, (max-width: 1024px) 100vw, 1024px\" \/><\/figure>\n\n\n\n<p>\u00bfHas charlado alguna vez con un chatbot y te has preguntado qu\u00e9 tanto sabe sobre ti? Bueno, seg\u00fan una nueva investigaci\u00f3n, los modelos de lenguaje grandes como GPT-4 pueden deducir cierta informaci\u00f3n personal bas\u00e1ndose solo en conversaciones. \u00a1Hablemos de ello!<\/p>\n\n<div id=\"ez-toc-container\" class=\"ez-toc-v2_0_76 counter-hierarchy ez-toc-counter ez-toc-grey ez-toc-container-direction\">\n<div class=\"ez-toc-title-container\">\n<p class=\"ez-toc-title\" style=\"cursor:inherit\">\u00cdndice de contenidos<\/p>\n<span class=\"ez-toc-title-toggle\"><a href=\"#\" class=\"ez-toc-pull-right ez-toc-btn ez-toc-btn-xs ez-toc-btn-default ez-toc-toggle\" aria-label=\"Alternar tabla de contenidos\"><span class=\"ez-toc-js-icon-con\"><span class=\"\"><span class=\"eztoc-hide\" style=\"display:none;\">Toggle<\/span><span class=\"ez-toc-icon-toggle-span\"><svg style=\"fill: #999;color:#999\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" class=\"list-377408\" width=\"20px\" height=\"20px\" viewBox=\"0 0 24 24\" fill=\"none\"><path d=\"M6 6H4v2h2V6zm14 0H8v2h12V6zM4 11h2v2H4v-2zm16 0H8v2h12v-2zM4 16h2v2H4v-2zm16 0H8v2h12v-2z\" fill=\"currentColor\"><\/path><\/svg><svg style=\"fill: #999;color:#999\" class=\"arrow-unsorted-368013\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"10px\" height=\"10px\" viewBox=\"0 0 24 24\" version=\"1.2\" baseProfile=\"tiny\"><path d=\"M18.2 9.3l-6.2-6.3-6.2 6.3c-.2.2-.3.4-.3.7s.1.5.3.7c.2.2.4.3.7.3h11c.3 0 .5-.1.7-.3.2-.2.3-.5.3-.7s-.1-.5-.3-.7zM5.8 14.7l6.2 6.3 6.2-6.3c.2-.2.3-.5.3-.7s-.1-.5-.3-.7c-.2-.2-.4-.3-.7-.3h-11c-.3 0-.5.1-.7.3-.2.2-.3.5-.3.7s.1.5.3.7z\"\/><\/svg><\/span><\/span><\/span><\/a><\/span><\/div>\n<nav><ul class='ez-toc-list ez-toc-list-level-1 ' ><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-1\" href=\"https:\/\/quondos.com\/mag\/puede-gpt-4-deducir-tus-ingresos-ubicacion-o-genero-a-partir-de-tus-chats\/#%C2%BFQue_dice_el_estudio\" >\u00bfQu\u00e9 dice el estudio?<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-2\" href=\"https:\/\/quondos.com\/mag\/puede-gpt-4-deducir-tus-ingresos-ubicacion-o-genero-a-partir-de-tus-chats\/#GPT-4_Un_maestro_deduciendo_informacion\" >GPT-4: Un maestro deduciendo informaci\u00f3n<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-3\" href=\"https:\/\/quondos.com\/mag\/puede-gpt-4-deducir-tus-ingresos-ubicacion-o-genero-a-partir-de-tus-chats\/#El_riesgo_de_los_chatbots_malintencionados\" >El riesgo de los chatbots malintencionados<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-4\" href=\"https:\/\/quondos.com\/mag\/puede-gpt-4-deducir-tus-ingresos-ubicacion-o-genero-a-partir-de-tus-chats\/#El_llamado_a_la_privacidad\" >El llamado a la privacidad<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-5\" href=\"https:\/\/quondos.com\/mag\/puede-gpt-4-deducir-tus-ingresos-ubicacion-o-genero-a-partir-de-tus-chats\/#%C2%BFY_que_dicen_las_grandes_empresas\" >\u00bfY qu\u00e9 dicen las grandes empresas?<\/a><\/li><\/ul><\/nav><\/div>\n<h2><span class=\"ez-toc-section\" id=\"%C2%BFQue_dice_el_estudio\"><\/span>\u00bfQu\u00e9 dice el estudio?<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Realizado por investigadores de la <strong>ETH Zurich<\/strong>, el estudio revela que estos modelos pueden inferir datos como tu ubicaci\u00f3n, edad y g\u00e9nero a partir de simples conversaciones o publicaciones en redes sociales.<\/p>\n<p>Lo m\u00e1s interesante (y quiz\u00e1s preocupante) es que los riesgos de privacidad relacionados con estos modelos no se limitan solo al almacenamiento de datos. <strong>Van m\u00e1s all\u00e1 de lo que conoc\u00edamos hasta ahora<\/strong>.<\/p>\n\n<h2><span class=\"ez-toc-section\" id=\"GPT-4_Un_maestro_deduciendo_informacion\"><\/span>GPT-4: Un maestro deduciendo informaci\u00f3n<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>El equipo utiliz\u00f3 un conjunto de datos de perfiles reales de Reddit. Los resultados mostraron que modelos como GPT-4 pueden deducir atributos personales como ubicaci\u00f3n, ingresos y g\u00e9nero con una <strong>precisi\u00f3n asombrosa<\/strong>.<\/p>\n<p>\u00a1Y espera, hay m\u00e1s! Alcanzaron una precisi\u00f3n del 85% en los primeros resultados y del 95.8% en los primeros tres. Y, claro, todo esto mucho m\u00e1s r\u00e1pido y barato que si lo hiciera un humano. <strong>GPT-4 roza la precisi\u00f3n humana<\/strong> en estas tareas y lo hace a una velocidad de v\u00e9rtigo.<\/p>\n\n\n\n\n\n<figure class=\"wp-block-image size-large\"><img decoding=\"async\" src=\"https:\/\/the-decoder.com\/wp-content\/uploads\/2023\/10\/Beyond-Memorization-Violating-Privacy-1-770x686.png.\" alt=\"\" title=\"\"><figcaption class=\"wp-element-caption\">Imagen: Staab et al.<\/figcaption><\/figure>\n\n\n\n<h2><span class=\"ez-toc-section\" id=\"El_riesgo_de_los_chatbots_malintencionados\"><\/span>El riesgo de los chatbots malintencionados<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Seg\u00fan la fuente, a medida que interactuamos m\u00e1s con chatbots, existe el peligro de que bots maliciosos intenten invadir nuestra privacidad. Podr\u00edan intentar <strong>extraer informaci\u00f3n personal<\/strong> con preguntas que parecen inocentes.<\/p>\n<p>Lo demostraron con un experimento donde dos bots GPT-4 conversaban entre s\u00ed. Uno intentaba no revelar informaci\u00f3n, mientras que el otro hac\u00eda preguntas dirigidas. A pesar de todo, GPT-4 pudo predecir atributos personales con un 60% de precisi\u00f3n solo haciendo preguntas sobre cosas como el clima o deportes locales.<\/p>\n\n<h2><span class=\"ez-toc-section\" id=\"El_llamado_a_la_privacidad\"><\/span>El llamado a la privacidad<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>El estudio tambi\u00e9n revel\u00f3 que las medidas comunes, como la <strong>anonimizaci\u00f3n de texto<\/strong>, no son suficientes para proteger nuestra privacidad frente a estas m\u00e1quinas. Incluso con herramientas avanzadas, los modelos pueden descifrar caracter\u00edsticas personales.<\/p>\n<p>Estos modelos captan matices ling\u00fc\u00edsticos y contextos que no son eliminados por los anonimizadores. Ante esto, el equipo pide mejores m\u00e9todos de anonimizaci\u00f3n para estar a la par con las capacidades de estos modelos.<\/p>\n\n<h2><span class=\"ez-toc-section\" id=\"%C2%BFY_que_dicen_las_grandes_empresas\"><\/span>\u00bfY qu\u00e9 dicen las grandes empresas?<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>Antes de publicar el estudio, los investigadores contactaron a grandes compa\u00f1\u00edas tecnol\u00f3gicas detr\u00e1s de chatbots, como <strong>OpenAI, Anthropic, Meta y Google<\/strong>. Su objetivo es iniciar un debate m\u00e1s amplio sobre las implicaciones de privacidad de estos modelos de lenguaje.<\/p>\n\n\n\n<p>Fuente:https:\/\/the-decoder.com\/gpt-4-can-infer-your-income-location-or-gender-from-chats<\/p>\n","protected":false},"excerpt":{"rendered":"<p>\u00bfHas charlado alguna vez con un chatbot y te has preguntado qu\u00e9 tanto sabe sobre ti? Bueno, seg\u00fan una nueva &#8230; <\/p>\n<p class=\"read-more-container\"><a title=\"\u00bfPuede GPT-4 deducir tus ingresos, ubicaci\u00f3n o g\u00e9nero a partir de tus chats?\" class=\"read-more button\" href=\"https:\/\/quondos.com\/mag\/puede-gpt-4-deducir-tus-ingresos-ubicacion-o-genero-a-partir-de-tus-chats\/#more-125658\" aria-label=\"Leer m\u00e1s sobre \u00bfPuede GPT-4 deducir tus ingresos, ubicaci\u00f3n o g\u00e9nero a partir de tus chats?\">Leer m\u00e1s<\/a><\/p>\n","protected":false},"author":850,"featured_media":125661,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1474],"tags":[],"class_list":["post-125658","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-inteligencia-artificial","generate-columns","tablet-grid-50","mobile-grid-100","grid-parent","grid-50","no-featured-image-padding"],"_links":{"self":[{"href":"https:\/\/quondos.com\/mag\/wp-json\/wp\/v2\/posts\/125658","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/quondos.com\/mag\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/quondos.com\/mag\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/quondos.com\/mag\/wp-json\/wp\/v2\/users\/850"}],"replies":[{"embeddable":true,"href":"https:\/\/quondos.com\/mag\/wp-json\/wp\/v2\/comments?post=125658"}],"version-history":[{"count":3,"href":"https:\/\/quondos.com\/mag\/wp-json\/wp\/v2\/posts\/125658\/revisions"}],"predecessor-version":[{"id":125662,"href":"https:\/\/quondos.com\/mag\/wp-json\/wp\/v2\/posts\/125658\/revisions\/125662"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/quondos.com\/mag\/wp-json\/wp\/v2\/media\/125661"}],"wp:attachment":[{"href":"https:\/\/quondos.com\/mag\/wp-json\/wp\/v2\/media?parent=125658"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/quondos.com\/mag\/wp-json\/wp\/v2\/categories?post=125658"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/quondos.com\/mag\/wp-json\/wp\/v2\/tags?post=125658"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}