Una veterana del periodismo frente al reto de la IA
Campbell Brown, conocida por su paso como periodista televisivo y como la primera jefa de noticias de Meta, se ha convertido en la fundadora de Forum AI, una startup que pretende que los sistemas de inteligencia artificial ofrezcan información fiable en los temas más críticos. Tras observar la llegada de ChatGPT y constatar su rápida adopción como "embudo" de datos, Brown decidió que no podía quedarse de brazos cruzados mientras la veracidad se volvió cada vez más frágil.
Forum AI: expertos contra máquinas
La propuesta central de la compañía es clara: reunir a los mejores especialistas del planeta, diseñar métricas de evaluación y entrenar a “jueces de IA” que califiquen los modelos de lenguaje a gran escala. En el ámbito de la geopolítica, por ejemplo, la firma ha contado con la colaboración de Niall Ferguson, Fareed Zakaria, el exsecretario de Estado Tony Blinken, el ex presidente de la Cámara Kevin McCarthy y Anne Neuberger, quien dirigió la ciberseguridad en la administración Obama. El objetivo es que los algoritmos alcancen al menos un 90 % de consenso con estos expertos, una marca que, según afirma Brown, Forum AI ya está logrando.
Resultados alarmantes y soluciones factibles
Los primeros análisis de los modelos más prominentes revelaron problemas serios: Gemini citó fuentes del Partido Comunista Chino en contextos totalmente ajenos, y casi todos los sistemas mostraron una inclinación política hacia la izquierda. Otros fallos incluyeron la falta de contexto, la omisión de perspectivas relevantes y la tendencia a caricaturizar argumentos contrarios. Brown insiste en que, pese a la gravedad de estos sesgos, existen correcciones sencillas que podrían elevar la calidad de las respuestas de manera significativa.
Lecciones del pasado y visión para el futuro
Durante sus años en Facebook, Brown observó cómo la optimización por el engagement dañó la información y provocó la desaparición de su programa de verificación de datos. Ahora confía en que la IA tenga la oportunidad de romper ese círculo vicioso, siempre que se priorice la verdad por encima del entretenimiento. Sin embargo, reconoce que la visión idealista de una IA que solo persiga la exactitud puede parecer ingenua.
El papel inesperado de la empresa
Brown cree que el sector empresarial será el aliado inesperado en esta lucha, porque organizaciones que usan IA para decisiones de crédito, seguros o contratación están cada vez más obligadas a evitar responsabilidades legales. La demanda de auditorías rigurosas y de métricas que vayan más allá de simples listas de verificación está impulsando a Forum AI a ofrecer soluciones basadas en conocimientos especializados, aunque la conversión de esa necesidad en ingresos consistentes sigue siendo un desafío.
En conclusión, la iniciativa de Campbell Brown representa un intento ambicioso de combinar la autoridad de los expertos con la escala de la IA, buscando que la información que recibimos en la era digital sea, sobre todo, veraz y equilibrada.
