Uno de los grandes problemas de la Inteligencia Artificial (IA) es que puede utilizarse maliciosamente para desinformar, generar fake-news o como una herramienta para evitar que los alumnos se eximan de hacer sus deberes de manera correcta.
Sin embargo, una empresa israelí desarrolló una plataforma que permite controlar estos aspectos negativos de la IA. Cyabra creó botbusters.ai, una herramienta que utiliza la propia Inteligencia Artificial para determinar si ciertas imágenes o textos fueron generados utilizando IA.
Es una herramienta sencilla, que pueden utilizar los docentes para saber si sus alumnos utilizaron IA para completar sus trabajos. Pero también, es un sistema útil para reconocer a un catfish o una imagen falsa con el objetivo de desinformar.
El algoritmo de botbuster.ai se entrena constantemente para mejorar la precisión a la hora de brindarle al usuario la probabilidad estimada de la falsedad del contenido.
Uno de los objetivos de la startup es la de exponer el riesgo online a las instituciones, los gobiernos, y también a los usuarios normales. Cyabra trabajó en el pasado con el gobierno taiwanés, para prevenir la información falsa acerca de la vacuna para el COVID-19. Y también con el Departamento de Estado de Estados Unidos para garantizar la seguridad de las elecciones.
La entrada Botbusters.ai, de qué se trata la herramienta israelí que ayuda a identificar contenido creado por IA aparece primero en Aurora.