Midjourney está planeando algo que podría revolucionar la forma en que editamos imágenes en línea. Según la fuente, la compañía permitirá que cualquiera en la web pueda editar imágenes usando inteligencia artificial.
Una nueva herramienta de edición con IA
Midjourney planea lanzar una herramienta web mejorada que permitirá a los usuarios editar cualquier imagen subida desde la web utilizando la IA generativa de la plataforma.
El CEO de Midjourney, David Holz, mencionó que esta actualización se lanzará «a principios de la próxima semana». Permitirá a los usuarios retexturizar objetos en imágenes para «repintar» sus colores y detalles según las descripciones.
El debate sobre la edición de imágenes con IA
Editar imágenes existentes con IA se ha convertido en un tema candente últimamente. Plataformas como Meta han lidiado con cómo etiquetar imágenes editadas con herramientas de IA versus las generadas desde cero con un modelo de IA.
Empresas como Google han lanzado potentes funciones de IA que no dan indicación visual de que las imágenes han sido modificadas por IA. Esto ha generado preocupación en la comunidad.
Compromisos y desafíos de Midjourney
El año pasado, Midjourney se comprometió a utilizar la propiedad IPTC’s Digital Source Type, un estándar técnico que inserta metadatos en imágenes indicando que han sido generadas por IA.
Sin embargo, la compañía es una de las pocas grandes plataformas de IA que no ha adoptado C2PA, una tecnología de metadatos que rastrea la procedencia completa de una imagen, incluyendo el equipo y software usados para crearla.
Lanzamiento limitado de la nueva herramienta
En una publicación en el servidor oficial de Discord de Midjourney, Holz dijo que la herramienta de imagen mejorada se restringirá a un «subconjunto de la comunidad actual» para empezar.
Esto se debe a que quieren aumentar la moderación humana y agregar nuevos moderadores de IA más avanzados para intentar prevenir abusos.
Preocupaciones sobre el mal uso
Según la fuente, existen riesgos al lanzar este tipo de herramientas de edición sin las salvaguardas adecuadas. Podrían facilitar la infracción de derechos de autor a gran escala o promover la propagación de deepfakes engañosos.
Los deepfakes se están propagando como la pólvora en las redes sociales, haciendo más difícil distinguir la verdad de la desinformación.
El auge alarmante de los deepfakes
Recientemente, imágenes generadas por IA falsas de destrucción y sufrimiento humano inundaron la web tras el huracán Helene.
Según datos de Clarity, una firma de detección de deepfakes, se han creado y publicado un 900% más de deepfakes este año en comparación con el mismo período del año pasado.
Reacciones y medidas legales
Esto está causando alarma. Una encuesta reciente de YouGov encontró que el 85% de los estadounidenses estaban preocupados por la propagación de deepfakes engañosos en línea.
En ausencia de una ley que criminalice los deepfakes a nivel federal en EE.UU., más de 10 estados han promulgado leyes contra la suplantación asistida por IA.
Midjourney y su responsabilidad
Midjourney no ha sido exactamente un ejemplo brillante de despliegue responsable de IA. Está siendo demandada por su supuesto uso de contenido protegido por derechos de autor para entrenar sus modelos generativos.
Sin embargo, en los últimos meses, la plataforma ha tomado medidas para limitar la propagación de deepfakes, incluyendo filtros para figuras políticas de cara a las elecciones presidenciales de EE.UU.
El futuro de la edición de imágenes con IA
La próxima herramienta de Midjourney podría cambiar la forma en que interactuamos con las imágenes en línea. Pero también plantea preguntas importantes sobre la ética y la seguridad.
Será crucial ver cómo la comunidad y la compañía manejan estos desafíos para aprovechar al máximo las oportunidades que ofrece la IA sin comprometer la confianza y seguridad de los usuarios.
Fuente: https://www.techspot.com/news/105215-midjourney-soon-allow-users-upload-images-edit-them.html