El nuevo modelo gpt-oss-20b de OpenAI ya está disponible para usuarios de PC mediante la plataforma Windows AI Foundry de Microsoft.
Imagen vía Unsplash (BoliviaInteligente)
OpenAI lanzó hace poco GPT-OSS, su nuevo modelo de peso abierto. Del mismo, ya es posible ejecutar su versión local en un PC con Windows 11. Lo anterior es gracias a Microsoft por haber habilitado gpt-oss-20b en Windows AI Foundry. Además, pronto arribará en macOS.
Windows AI Foundry es una plataforma de Microsoft diseñada para el desarrollo y despliegue de aplicaciones y agentes de inteligencia artificial (IA) en su software Windows. Tiempo atrás se la conocía como Windows Copilot Runtime.
Los usuarios de Windows AI Foundry con deseo de ejecutar gpt-oss-20b requerirán una computadora con al menos 16GB de VRAM junto a una de las GPU de gama alta de NVIDIA o la variedad de GPU Radeon con suficiente VRAM. Esto es algo ya aclarado, aunque nunca está de más recordarlo. Constituye el requisito mínimo, por así decirlo.
«Con el lanzamiento de los modelos gpt-oss de OpenAI (su primer lanzamiento de peso abierto desde GPT-2), brindamos a los desarrolladores y empresas una capacidad sin precedentes para ejecutar, adaptar e implementar modelos de OpenAI completamente en sus propios términos», indican desde Microsoft. «Por primera vez, puedes ejecutar modelos de OpenAI como gpt-oss-120b en una sola GPU empresarial o ejecutar gpt-oss -20b localmente», agregan.
El nuevo gpt-oss-20b es «perfecto para crear asistentes autónomos o integrar IA en flujos de trabajo reales, incluso en entornos con limitaciones de ancho de banda», en consideraciones de Microsoft. La firma lo optimizó para inferencia local. En poco tiempo llegará a más dispositivos. Ello podría significar que veremos una versión más optimizada para PC con Copilot Plus en el futuro.
Azure AI Foundry proporciona una plataforma unificada para crear, optimizar e implementar agentes inteligentes con confianza. Por su parte, Foundry Local lleva modelos de open source al edge, lo cual permite una inferencia flexible en el dispositivo en miles de millones de dispositivos. Tanto gpt-oss-120b como gpt-oss-20b ya están disponibles en Azure AI Foundry. gpt-oss-120 dispone de un razonamiento más potente. En cambio, gpt-oss-20b es ligero y fácil de usar.
Fuente: The Verge
