Visión de Garry Tan sobre la destilación de modelos IA
En una entrevista reciente con CNBC, Garry Tan, el director ejecutivo de Y Combinator, expresó que los laboratorios estadounidenses de inteligencia artificial deberían poder aplicar técnicas de destilación a los modelos de frontera sin que el gobierno imponga barreras. Tan argumenta que la regulación excesiva limitaría la innovación y que, al contrario, una política de acceso abierto fortalecería el ecosistema de IA nacional.
¿Qué es la destilación y por qué es crucial?
La destilación consiste en usar un modelo avanzado para generar respuestas que sirvan de guía a otro modelo más pequeño, permitiendo que este último aprenda patrones y razonamientos complejos. Esta práctica, legítima y ampliamente adoptada, acelera la creación de versiones más ligeras y eficientes, facilitando su despliegue en dispositivos con recursos limitados.
Preocupaciones sobre laboratorios chinos
Anthropic, una empresa de IA con sede en EE. UU., denunció recientemente que ciertos laboratorios chinos estarían realizando “ataques de destilación ilícitos”, ocultando su identidad y empleando credenciales robadas para extraer conocimientos sin autorización. Dario Amodei, CEO de Anthropic, solicitó a los reguladores estadounidenses que actúen contra estas prácticas.
El contraste de Tan
Tan no apoya el uso de credenciales fraudulentas; su postura es que los laboratorios estadounidenses deben poder entrar por la puerta principal, sin necesidad de ocultarse. Señala que los grandes proveedores de IA ya han entrenado sus sistemas con enormes volúmenes de datos públicos, a menudo sin permiso explícito de los titulares de derechos de autor. Por ello, considera que el acceso a la inteligencia derivada de esos datos debería considerarse un bien público, no un recurso cerrado bajo términos restrictivos.
Equilibrio entre apertura y frontera
Para Tan, la coexistencia de laboratorios de peso abierto y de frontera es esencial. Los primeros ofrecen libertad y democratización, mientras que los segundos impulsan los límites tecnológicos. Un escenario dominado por una única empresa propietaria, con acceso ilimitado a capital y talento, representaría el peor futuro posible para la IA, según sus palabras.
Implicaciones para la industria
Si se adoptara la visión de Tan, EE. UU. contaría con una mayor variedad de modelos de código abierto, reduciendo la dependencia de proveedores cerrados y potenciando la competencia. Además, se fomentaría una cultura de colaboración que podría contrarrestar la influencia de actores extranjeros que ya emplean la destilación como herramienta de espionaje tecnológico.
En resumen, Garry Tan aboga por una política que permita a los laboratorios estadounidenses de IA destilar libremente los modelos de frontera, garantizando que el conocimiento generado a partir de datos públicos se mantenga accesible y beneficie a toda la comunidad.