La crisis de la corona se está convirtiendo en una prueba de estrés para la IA de Facebooks

San Francisco, DüsseldorfFacebook será gobernado por la inteligencia artificial (IA) más que nunca en las próximas semanas. La red normalmente deja que la gente y los algoritmos juntos decidan qué contenido se permite que circule en la plataforma. Pero mientras que más y más personas se ven afectadas por el Covid-19, Facebook no puede depender de proveedores de servicios externos como de costumbre, dijo el jefe de Facebook, Mark Zuckerberg, en una conferencia telefónica con periodistas el miércoles por la noche.
Facebook está enfrentando un inmenso desafío en la crisis de la corona. Por un lado, los servicios sociales son más importantes que nunca para muchas personas en aislamiento. Por otra parte, debe filtrarse una enorme cantidad de información errónea sobre la enfermedad y las medidas públicas contra su propagación.
Al hacerlo, Facebook es como cualquier otra compañía: Los empleados internos y externos ya no pueden venir a trabajar. El próximo problema de las noticias falsas se avecina. Pero esta vez la compañía es consciente del riesgo y está tratando de lidiar con él mejor que nunca. El hecho de que todavía pueda ofrecer sus servicios en absoluto sólo es posible con la ayuda de la IA altamente desarrollada.
La compañía ha sido muy reprendida por dejar que los políticos de su plataforma hagan ellos mismos afirmaciones obviamente falsas sin borrarlas. Sin embargo, en el caso del brote de Corona, el fundador de Facebook es estricto: "Incluso en países como los EE.UU., que tienen la mayor tradición de defensa de la libertad de expresión, hay límites", dijo Zuckerberg.
Difundir información falsa sobre el virus de la corona era comparable a gritar "fuego" en una habitación llena de gente. En otras palabras, Facebook actualmente tiene que hacer todo lo posible para asegurar que no surja el pánico por la pandemia.
Por eso la empresa no se atreve a quedarse completamente ciega en lo que se refiere a la moderación por la IA, aunque no pueda subcontratar la parte humana de la tarea a otras empresas como es habitual. Para ciertos temas, los empleados permanentes están tomando el control, dijo Zuckerberg.

Más atención a los videos de suicidio

Los moderadores de Facebook están priorizando actualmente el contenido que podría alentar a las personas mentalmente inestables a hacerse daño o a suicidarse, incluso si esto significa que otros contenidos que necesitan moderación recibirán menos atención por parte de los empleados.
El peligro que representan estos contenidos será aún mayor que el habitual en las próximas semanas: "Personalmente temo que el aislamiento lleve a un aumento de los problemas psicológicos", dijo el jefe de Facebook.
Sin embargo, a los moderadores que trabajan en casa no se les permite revisar todo tipo de contenido, porque los pastores deben estar a mano en todo momento para ocuparse de las imágenes y los vídeos incriminatorios. Además, el cambio probablemente no funcionará sin problemas: "Esperamos que su productividad baje", dice Zuckerberg.
El manejo de Facebook de sus moderadores, la mayoría de los cuales han sido empleados por proveedores de servicios como Accenture, ha sido objeto de críticas en el pasado. En una serie de artículos en 2019, el portal tecnológico "The Verge" mostró cómo Facebook subcontrata trabajos psicológicamente estresantes, viendo videos violentos o pornografía infantil todo el día, a trabajadores independientes mal pagados que sufren daños a largo plazo debido a las condiciones de trabajo a veces miserables. Desde entonces Facebook ha aumentado los salarios de los moderadores.
La moderación de la red, con 2.400 millones de usuarios regulares, se hará más difícil en la crisis de la corona, mientras que al mismo tiempo sus moderadores podrán hacer menos que antes. El hueco debe ser llenado ahora por algoritmos que usen reconocimiento de voz e imagen.
El objetivo, dice Zuckerberg, es detectar y eliminar el contenido dañino antes de que alguien lo vea. Si un moderador es señalado por los usuarios a tales publicaciones o videos, ya se han difundido. En el caso de las llamadas o videos terroristas, esto ya es posible en el 98 al 99 por ciento de los casos.
Esto podría llevar a más casos en el futuro cercano en los que los artículos serios y otros contenidos no peligrosos se eliminan más a menudo de forma accidental, dijo Zuckerberg. Sin embargo, algunos casos en los que esto ya ha sucedido en los últimos días estaban relacionados con un fallo en el filtro de spam de Facebook, no con el aumento del uso de la IA per se.

Facebook se prepara para una alta carga de la red

Como red global, Facebook está aprendiendo de su experiencia con los anteriores epicentros del virus. Esto ayuda al Grupo a prepararse para una mayor propagación de la enfermedad y, por ejemplo, a estabilizar su infraestructura.
WhatsApp y otros mensajeros han sido recientemente usados dos veces más a menudo en Italia para hacer llamadas telefónicas como de costumbre. La gente en cuarentena usa los servicios de Facebook para mantenerse en contacto. "Ya hemos pasado el pico de mensajes enviados en Nochevieja", dijo el jefe de Facebook.
Ya está representando el peor escenario para el que su compañía se está preparando: "No tenemos un brote masivo en todo el mundo todavía, pero cuando lo tengamos, queremos estar encima de él y asegurarnos de que la infraestructura no se derrumbe.
Para asegurar la comunicación en una situación de crisis, Facebook también quiere poner a disposición del gobierno y de las organizaciones de emergencia el servicio Facebook Workplace de forma gratuita durante un año. Este es un servicio para comunicaciones corporativas similar al de Slack o Microsoft Teams.
Dentro de Facebook, los empleados pueden comunicarse con sus colegas en un área cerrada, pero también pueden aceptar y responder a las preguntas de los clientes. El servicio ofrece oportunidades para videollamadas, comunicación en grupo e intercambio de documentos. Entre las organizaciones ya apoyadas por el servicio están el gobierno de Singapur y el Departamento de Bomberos de Londres, según Facebook.
Además, Facebook quiere ofrecer a los usuarios de los Estados Unidos y los principales países europeos, incluida Alemania, un centro de información en la parte superior de su página de Facebook con datos sólidos y artículos de medios fiables sobre la pandemia de coronavirus en su idioma local, a más tardar el jueves.
Se pretende que llegue a todos los usuarios del mundo en un futuro próximo. Sin embargo, aún no sabe cuánto tiempo tomará esto, dijo Zuckerberg.
More:El vicepresidente de la Comisión Europea, Jourova, advierte contra las noticias falsas sobre los servicios de mensajería