Sora, la nueva IA para vídeos de los creadores de ChatGPT, ha generado un debate sin precedentes en la comunidad tecnológica. Esta innovadora inteligencia artificial, desarrollada por la misma empresa responsable de ChatGPT, promete revolucionar la forma en que se generan y editan vídeos en línea. Sin embargo, surge un dilema ético: la necesidad de censurar los desnudos para evitar posibles controversias y violaciones de derechos. La eficacia de Sora se ve comprometida por la posibilidad de que imágenes inapropiadas puedan ser procesadas y compartidas sin restricciones. ¿Cómo enfrentará este desafío la tecnología puntera detrás de Sora? La comunidad espera respuestas claras y soluciones efectivas para garantizar un uso responsable y seguro de esta poderosa herramienta.
Sora de OpenAI: ¿La IA que desata el debate al permitir desnudos en vídeos?
Ha transcurrido poco más de un mes desde la presentación de Sora, el nuevo modelo de inteligencia artificial de OpenAI. A diferencia de herramientas anteriores como ChatGPT o DALL-E, capaces de generar texto e imágenes respectivamente mediante instrucciones escritas, Sora va un paso más allá al posibilitar la creación de vídeos en cuestión de segundos. Esto ha suscitado un debate sobre la seguridad de lanzar una herramienta con tales capacidades.
Sora de OpenAI: ¿La nueva herramienta de IA con potencial para generar pornografía?
Mira Muratti, Directora de Tecnología de OpenAI, recientemente abordó la posibilidad de crear desnudos y escenas explícitas con Sora. En declaraciones recogidas por el portal Gizmodo, Muratti mencionó que actualmente no se puede descartar la inclusión de desnudos en las creaciones de Sora. OpenAI, junto a otras empresas de IA como Google y Microsoft, han establecido límites a sus inteligencias artificiales, pero los usuarios siempre encuentran formas de eludir estas restricciones.
Muratti señala que están colaborando con artistas y creadores de contenido para determinar qué es útil y el nivel de flexibilidad que debe tener la herramienta. Sin embargo, instituciones que abogan por regular la inteligencia artificial, como AI Policy Institute (AIPI), advierten que la demanda de vídeo generado por IA, en su mayoría, podría ser pornográfica. Por lo tanto, el permitir desnudos con Sora podría llevarnos a un escenario peligroso y siniestro.
Los expertos coinciden en que la posibilidad de Sora de permitir desnudos podría desencadenar un aumento alarmante de deepfakes, suplantaciones, extorsiones sexuales y otras situaciones preocupantes. La preocupación por las posibles creaciones que podrían surgir con Sora es compartida por AIPI y otras organizaciones.
Deja una respuesta