Discord desata la ia: 8.000 expulsados por pixelarte y el bug que lo empeoró
La moderación automática de Discord, impulsada por inteligencia artificial, ha desatado un caos inesperado, expulsando a miles de usuarios por motivos absurdos: imágenes de ajedrez, texturas de videojuegos y, lo más peculiar, fragmentos de inventario de Minecraft.
Un algoritmo con delirios de grandeza
La cifra es alarmante: 8.000 cuentas canceladas de forma definitiva en meses, un flujo constante que Discord tardó meses en detectar. Lo más inquietante es que el problema se originó en una falla de software, un bug que, lejos de ser corregido, permitió que la IA se volviera cada vez más errática. Según fuentes internas, un error en la configuración de la herramienta impedía que la inteligencia artificial notificara al equipo humano de moderación, dando a la máquina un poder de veto sin control.
La especulación sobre el detonante de esta histeria algorítmica se centra en la detección de cuadrados y rejillas dentro de las imágenes subidas. Usuarios sugieren que la IA, confundiendo estos patrones con la pixelización utilizada en contenido pornográfico, ha actuado de forma desproporcionada, castigando a usuarios inocentes con expulsiones permanentes.
Discord, en un intento de justificar la debacle, asegura que su sistema de moderación compara el contenido con una base de datos de material prohibido, pero que ocasionalmente se producen falsos positivos. Admite que un moderador humano revisa las alertas, pero un bug previo causó que la IA cancelase las cuentas de forma automática. Una cascada de errores, en definitiva.
La situación ha generado indignación entre la comunidad, especialmente en aquellos profesionales que dependen de Discord para su trabajo. Un director de videojuegos, por ejemplo, relata la pérdida de su cuenta debido a una