¿Los algoritmos de inteligencia artificial pueden ser engañados?

Las tecnologías de inteligencia artificial (IA) se desarrollan con rapidez y cada vez son más asequibles, aunque podrían usarse con propósitos malintencionados.

Estas mismas tecnologías aportan un nuevo nivel de autonomía a los vehículos, los robots en los almacenes, las cámaras de seguridad y una amplia gama de servicios de Internet.

Los nuevos sistemas de IA también exhiben comportamientos inesperados y extraños debido a que no se entiende por completo la manera en que aprenden a partir de enormes cantidades de datos.

Esto los hace vulnerables a la manipulación; se puede engañar a los algoritmos para que, por ejemplo, vean cosas que no existen.

En un contexto como éste, los delincuentes podrían burlar cámaras de seguridad o afectar a un vehículo autónomo.

Josh Saxe, jefe de datos científicos de la empresa de seguridad informática Sophos, me explicó cómo los cibercriminales utilizan la inteligencia artificial para sus actividades.

Puedes leer la entrevista que publiqué en iProfesional aquí.

Deja un comentario