{"id":127357,"date":"2024-08-06T11:52:45","date_gmt":"2024-08-06T09:52:45","guid":{"rendered":"https:\/\/quondos.com\/mag\/?p=127357"},"modified":"2024-08-06T11:52:45","modified_gmt":"2024-08-06T09:52:45","slug":"openai-tiene-una-herramienta-que-puede-saber-si-usas-chatgpt-para-hacer-trampa-pero-no-la-hara-publica-de-momento","status":"publish","type":"post","link":"https:\/\/quondos.com\/mag\/openai-tiene-una-herramienta-que-puede-saber-si-usas-chatgpt-para-hacer-trampa-pero-no-la-hara-publica-de-momento\/","title":{"rendered":"OpenAI tiene una herramienta que puede saber si usas ChatGPT para hacer trampa, pero no la har\u00e1 p\u00fablica de momento"},"content":{"rendered":"\n<figure class=\"wp-block-image size-large\"><img loading=\"lazy\" decoding=\"async\" width=\"1024\" height=\"682\" src=\"https:\/\/quondos.com\/mag\/wp-content\/uploads\/2024\/01\/openchatgpt_11zon-1024x682.jpg\" alt=\"\" class=\"wp-image-126138\" title=\"\" srcset=\"https:\/\/quondos.com\/mag\/wp-content\/uploads\/2024\/01\/openchatgpt_11zon-1024x682.jpg 1024w, https:\/\/quondos.com\/mag\/wp-content\/uploads\/2024\/01\/openchatgpt_11zon-300x200.jpg 300w, https:\/\/quondos.com\/mag\/wp-content\/uploads\/2024\/01\/openchatgpt_11zon-768x512.jpg 768w, https:\/\/quondos.com\/mag\/wp-content\/uploads\/2024\/01\/openchatgpt_11zon-1536x1024.jpg 1536w, https:\/\/quondos.com\/mag\/wp-content\/uploads\/2024\/01\/openchatgpt_11zon.jpg 1676w\" sizes=\"auto, (max-width: 1024px) 100vw, 1024px\" \/><\/figure>\n\n\n\n<p>OpenAI ha desarrollado una herramienta de \u00abmarcado de texto\u00bb para ChatGPT que detecta el uso de este chatbot para hacer trampa, pero la compa\u00f1\u00eda tiene reservas sobre su lanzamiento p\u00fablico.<\/p>\n\n<div id=\"ez-toc-container\" class=\"ez-toc-v2_0_76 counter-hierarchy ez-toc-counter ez-toc-grey ez-toc-container-direction\">\n<div class=\"ez-toc-title-container\">\n<p class=\"ez-toc-title\" style=\"cursor:inherit\">\u00cdndice de contenidos<\/p>\n<span class=\"ez-toc-title-toggle\"><a href=\"#\" class=\"ez-toc-pull-right ez-toc-btn ez-toc-btn-xs ez-toc-btn-default ez-toc-toggle\" aria-label=\"Alternar tabla de contenidos\"><span class=\"ez-toc-js-icon-con\"><span class=\"\"><span class=\"eztoc-hide\" style=\"display:none;\">Toggle<\/span><span class=\"ez-toc-icon-toggle-span\"><svg style=\"fill: #999;color:#999\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" class=\"list-377408\" width=\"20px\" height=\"20px\" viewBox=\"0 0 24 24\" fill=\"none\"><path d=\"M6 6H4v2h2V6zm14 0H8v2h12V6zM4 11h2v2H4v-2zm16 0H8v2h12v-2zM4 16h2v2H4v-2zm16 0H8v2h12v-2z\" fill=\"currentColor\"><\/path><\/svg><svg style=\"fill: #999;color:#999\" class=\"arrow-unsorted-368013\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"10px\" height=\"10px\" viewBox=\"0 0 24 24\" version=\"1.2\" baseProfile=\"tiny\"><path d=\"M18.2 9.3l-6.2-6.3-6.2 6.3c-.2.2-.3.4-.3.7s.1.5.3.7c.2.2.4.3.7.3h11c.3 0 .5-.1.7-.3.2-.2.3-.5.3-.7s-.1-.5-.3-.7zM5.8 14.7l6.2 6.3 6.2-6.3c.2-.2.3-.5.3-.7s-.1-.5-.3-.7c-.2-.2-.4-.3-.7-.3h-11c-.3 0-.5.1-.7.3-.2.2-.3.5-.3.7s.1.5.3.7z\"\/><\/svg><\/span><\/span><\/span><\/a><\/span><\/div>\n<nav><ul class='ez-toc-list ez-toc-list-level-1 ' ><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-1\" href=\"https:\/\/quondos.com\/mag\/openai-tiene-una-herramienta-que-puede-saber-si-usas-chatgpt-para-hacer-trampa-pero-no-la-hara-publica-de-momento\/#OpenAI_tiene_una_herramienta_que_detecta_si_usas_ChatGPT_para_hacer_trampa_pero_no_planea_lanzarla\" >OpenAI tiene una herramienta que detecta si usas ChatGPT para hacer trampa, pero no planea lanzarla<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-2\" href=\"https:\/\/quondos.com\/mag\/openai-tiene-una-herramienta-que-puede-saber-si-usas-chatgpt-para-hacer-trampa-pero-no-la-hara-publica-de-momento\/#El_debate_interno_en_OpenAI_sobre_la_herramienta_anti-trampa\" >El debate interno en OpenAI sobre la herramienta anti-trampa<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-3\" href=\"https:\/\/quondos.com\/mag\/openai-tiene-una-herramienta-que-puede-saber-si-usas-chatgpt-para-hacer-trampa-pero-no-la-hara-publica-de-momento\/#Implicaciones_del_lanzamiento_de_la_herramienta\" >Implicaciones del lanzamiento de la herramienta<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-4\" href=\"https:\/\/quondos.com\/mag\/openai-tiene-una-herramienta-que-puede-saber-si-usas-chatgpt-para-hacer-trampa-pero-no-la-hara-publica-de-momento\/#Desarrollos_futuros_y_preocupaciones_del_sector\" >Desarrollos futuros y preocupaciones del sector<\/a><\/li><\/ul><\/nav><\/div>\n<h2><span class=\"ez-toc-section\" id=\"OpenAI_tiene_una_herramienta_que_detecta_si_usas_ChatGPT_para_hacer_trampa_pero_no_planea_lanzarla\"><\/span>OpenAI tiene una herramienta que detecta si usas ChatGPT para hacer trampa, pero no planea lanzarla<span class=\"ez-toc-section-end\"><\/span><\/h2>\n\n<p>Desde el lanzamiento p\u00fablico de ChatGPT en noviembre de 2022, varios centros educativos comenzaron a prohibirlo por miedo a que los estudiantes lo utilizaran para hacer trampa. ChatGPT puede generar textos sobre cualquier tema en segundos, abriendo una v\u00eda f\u00e1cil para el enga\u00f1o. Los estudiantes podr\u00edan crear trabajos sobre cualquier tema y entregarlos sin preocuparse de ser atrapados, ya que no exist\u00eda una herramienta de OpenAI que pudiera identificar textos generados por IA.<\/p>\n\n<p>En los dos a\u00f1os posteriores, OpenAI desarroll\u00f3 una herramienta de \u00abmarcado de texto\u00bb ChatGPT que, seg\u00fan informes, ha estado lista por lo menos un a\u00f1o y puede detectar textos de ChatGPT con una precisi\u00f3n del <strong>99.9%<\/strong>. Sin embargo, OpenAI teme lanzarla despu\u00e9s de que una encuesta revelara que aproximadamente un tercio de los usuarios de ChatGPT dejar\u00edan de usar el chatbot si se implementaran medidas anti-trampa.<\/p>\n\n<h2><span class=\"ez-toc-section\" id=\"El_debate_interno_en_OpenAI_sobre_la_herramienta_anti-trampa\"><\/span>El debate interno en OpenAI sobre la herramienta anti-trampa<span class=\"ez-toc-section-end\"><\/span><\/h2>\n\n<p>La herramienta es muy efectiva; es capaz de detectar el <strong>99.9%<\/strong> del texto generado por ChatGPT. Funciona dejando un patr\u00f3n llamado marca de agua en el texto que los humanos no pueden discernir. Este patr\u00f3n se crea al cambiar ligeramente c\u00f3mo se seleccionan los tokens durante la generaci\u00f3n de texto.<strong>Wall Street Journal<\/strong> inform\u00f3 sobre esta herramienta, describi\u00e9ndola como algo que solo requerir\u00eda \u00abpresionar un bot\u00f3n\u00bb para usarla.<\/p>\n\n<p>Aunque la herramienta ha demostrado ser precisa y efectiva incluso contra manipulaciones localizadas, como la par\u00e1frasis, es menos robusta contra manipulaciones globalizadas; por ejemplo, usar sistemas de traducci\u00f3n, reescribir con otro modelo generativo, o insertar un car\u00e1cter especial entre cada palabra y luego eliminar ese car\u00e1cter.<\/p>\n\n<h2><span class=\"ez-toc-section\" id=\"Implicaciones_del_lanzamiento_de_la_herramienta\"><\/span>Implicaciones del lanzamiento de la herramienta<span class=\"ez-toc-section-end\"><\/span><\/h2>\n\n<p>Un desaf\u00edo es determinar qui\u00e9n tendr\u00eda acceso a la herramienta. Si demasiadas personas la tienen, los actores malintencionados podr\u00edan descubrir la t\u00e9cnica de marcado y volverla en gran medida in\u00fatil. Una propuesta es hacer la herramienta disponible para educadores o compa\u00f1\u00edas que puedan ayudar a las escuelas a identificar contenido escrito por IA.<\/p>\n\n<p>OpenAI ha indicado que la herramienta de marcado de texto podr\u00eda afectar a algunos grupos de personas, como los hablantes no nativos de ingl\u00e9s. Esta es una preocupaci\u00f3n que OpenAI ha expresado en una actualizaci\u00f3n de mayo a una publicaci\u00f3n de blog sobre el marcado de im\u00e1genes generadas con sus modelos de IA. La actualizaci\u00f3n se produjo despu\u00e9s del informe del WSJ.<\/p>\n\n<h2><span class=\"ez-toc-section\" id=\"Desarrollos_futuros_y_preocupaciones_del_sector\"><\/span>Desarrollos futuros y preocupaciones del sector<span class=\"ez-toc-section-end\"><\/span><\/h2>\n\n<p>OpenAI tambi\u00e9n est\u00e1 trabajando en desarrollar una herramienta de marcado de metadatos de texto para textos generados por ChatGPT. A diferencia del marcado, los metadatos est\u00e1n firmados criptogr\u00e1ficamente, lo que significa que no hay falsos positivos. Esto se espera que sea cada vez m\u00e1s importante a medida que aumenta el volumen de texto generado.<\/p>\n\n<p>Mientras tanto, no hay indicios de cu\u00e1ndo OpenAI lanzar\u00e1 tal herramienta. Por otro lado, Google ya tiene una herramienta de marcado que puede detectar textos escritos con AI Gemini, llamada SynthID, aunque no est\u00e1 ampliamente disponible. Despu\u00e9s de todo, Google acaba de decirles a los ni\u00f1os que est\u00e1 bien usar Gemini AI para redactar esa carta perfecta con el anuncio de las Olimpiadas que todos odian. Google retir\u00f3 ese comercial tras toda la reacci\u00f3n negativa.<\/p>\n\n<p>Estas compa\u00f1\u00edas tambi\u00e9n est\u00e1n trabajando en etiquetar contenido visual generado por IA. La publicaci\u00f3n de blog actualizada de OpenAI se centra en el marcado de im\u00e1genes. Es comprensible, ya que las fotos generadas por IA pueden usarse con fines enga\u00f1osos. Pero, con suerte, todos los chatbots generativos de IA pronto har\u00e1n de tales t\u00e9cnicas de marcado un est\u00e1ndar tambi\u00e9n para el texto.<\/p>\n\n","protected":false},"excerpt":{"rendered":"<p>OpenAI ha desarrollado una herramienta de \u00abmarcado de texto\u00bb para ChatGPT que detecta el uso de este chatbot para hacer &#8230; <\/p>\n<p class=\"read-more-container\"><a title=\"OpenAI tiene una herramienta que puede saber si usas ChatGPT para hacer trampa, pero no la har\u00e1 p\u00fablica de momento\" class=\"read-more button\" href=\"https:\/\/quondos.com\/mag\/openai-tiene-una-herramienta-que-puede-saber-si-usas-chatgpt-para-hacer-trampa-pero-no-la-hara-publica-de-momento\/#more-127357\" aria-label=\"Leer m\u00e1s sobre OpenAI tiene una herramienta que puede saber si usas ChatGPT para hacer trampa, pero no la har\u00e1 p\u00fablica de momento\">Leer m\u00e1s<\/a><\/p>\n","protected":false},"author":850,"featured_media":126138,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1474],"tags":[],"class_list":["post-127357","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-inteligencia-artificial","generate-columns","tablet-grid-50","mobile-grid-100","grid-parent","grid-50","no-featured-image-padding"],"_links":{"self":[{"href":"https:\/\/quondos.com\/mag\/wp-json\/wp\/v2\/posts\/127357","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/quondos.com\/mag\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/quondos.com\/mag\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/quondos.com\/mag\/wp-json\/wp\/v2\/users\/850"}],"replies":[{"embeddable":true,"href":"https:\/\/quondos.com\/mag\/wp-json\/wp\/v2\/comments?post=127357"}],"version-history":[{"count":3,"href":"https:\/\/quondos.com\/mag\/wp-json\/wp\/v2\/posts\/127357\/revisions"}],"predecessor-version":[{"id":127360,"href":"https:\/\/quondos.com\/mag\/wp-json\/wp\/v2\/posts\/127357\/revisions\/127360"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/quondos.com\/mag\/wp-json\/wp\/v2\/media\/126138"}],"wp:attachment":[{"href":"https:\/\/quondos.com\/mag\/wp-json\/wp\/v2\/media?parent=127357"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/quondos.com\/mag\/wp-json\/wp\/v2\/categories?post=127357"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/quondos.com\/mag\/wp-json\/wp\/v2\/tags?post=127357"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}