El experto en rehabilitación pediátrica, el Dr. Maurice Sholas, dijo que primero notó los videos a mediados de agosto cuando un seguidor le envió un clip de tiktok que se parecía a él
NUEVA ORLEANS – Los médicos de Nueva Orleans dijeron que nunca fue reconocido después de descubrir docenas de videos generados por IA de caras y voces para la venta.
El experto en rehabilitación pediátrica, el Dr. Maurice Sholas, dijo que primero notó los videos a mediados de agosto cuando un seguidor le envió un clip de tiktok que se parecía a él pero sonaba como él, pero ese no era el caso.
«Nunca he oído hablar de vitaminas en mi vida … El consejo dado es algo que nunca diría en un entorno clínico porque ese no es realmente mi trabajo o lo que veo», dijo Sholas.
Estos videos promueven suplementos de vitaminas, haciendo afirmaciones sobre defectos negros. Sholas dijo que las recomendaciones no solo tergiversan su práctica médica, sino que también tienen el potencial de engañar al público.
Él explicó: «¿Qué pasa si alguien dice que les dijera que hicieran algo que los lastime? Luego le piden a la Junta de Medicina del Estado. Puedo estar en peligro de algo que nunca he dicho o hecho».
Los seguidores fueron engañados
Sholas dijo que mientras ninguno de sus pacientes se acercó, algunos usuarios de las redes sociales señalaron que los clips generados por la IA eran «pruebas» de su legitimidad.
«Soy un verdadero médico, pero no dije eso», dijo. «No es correcto que haya pasado años construyendo mi reputación y robándola y ganando dinero sin mi permiso».
Experto: los restaurantes profundos son fáciles de hacer y difíciles de detener
Joshua Copeland, profesor adjunto en Tulane, dijo que crear clones digitales convincentes no requiere mucho.
«Es realmente difícil protegerse de esta simulación falsa profunda … para clonar su voz, solo toma unos 10 segundos de audio real. De allí, realmente pueden copiarlo de una manera muy, muy indistinguible».
Agregó que una vez que el contenido de IA se lanza en línea, «Los elfos no están en la botella»: los videos se pueden grabar, compartir y volver a cargar a múltiples plataformas.
La plataforma responde, o no
Sholas dijo que informó videos sobre Tiktok, Instagram y otras plataformas, pero a menudo se le dejó esperar una respuesta o no tenía ninguna violación.
WWL-TV contacta a los usuarios que poseen Meta de Instagram y publican videos. Ninguno de ellos respondió a nuestra solicitud de comentarios.
Pero Tiktok tomó medidas. Un portavoz de Tiktok confirmó en una declaración que la cuenta ha sido eliminada:
«Prohibimos permanentemente esta cuenta violar nuestras políticas».
Tiktok también señaló Directrices de la comunidadque incluye:
- imitar – «No permitimos los comportamientos de la cuenta que puedan enviar spam o engañar a nuestra comunidad … (que incluye) una cuenta para tomarlo como otra persona o entidad real sin revelar que son fanáticos en el nombre de la cuenta o imitar la cuenta, como usar el nombre de alguien, detalles biográficos, contenido, contenido o imágenes sin revelarlo».
- IC (escala generada por IA)– «No permitimos que la AIGC o los medios editoriales engañosos prueben:
- El contenido parece provenir de fuentes autorizadas, como organizaciones de noticias bien conocidas.
- Similitud de los personajes personales adultos si nos damos cuenta de que no se usa sin su permiso. «
Todavía extendiendo
En este informe, Tiktok prohíbe el uso de cuentas de Deepfake. Pero los videos todavía están disponibles en Instagram.
Sholas dijo que espera que su historia sea una advertencia sobre el rápido aumento de la parodia de IA y la necesidad de que las compañías de tecnología actúen más rápido.
«No tienes que conocer a alguien para proteger tu imagen. No tienes que ser ‘alguien’ para ser considerado humano. Eso no está bien».
Haga clic aquí para informar un error tipográfico.
► Descargue la nueva aplicación gratuita de noticias WWL-TV ahora para recibir noticias de última hora directamente desde el cercano Tienda de aplicaciones de iOS o Google Play.
