lanzará versiones optimizadas y destiladas para sus equipos Windows 11 Copilot+ PC

Estos últimos días han estado poco agitados con el tiro de DeepSeek R1, un maniquí de verbo que ha demostrado competir de tú a tú con los modelos más avanzados de OpenAI. No solo esto, sino que ha creado toda una nubarrón de incertidumbre al conocerse que ha sido desarrollado con infinitos menos bienes que los de la compañía estadounidense, abriendo encima el maniquí para que cualquiera pueda modificarlo o desarrollar sobre él.

El campo de la inteligencia fabricado generativa avanza a pasos agigantados, y se alcahuetería de un tren al que compañías como Microsoft no quieren bajarse. Por ello mismo, la compañía ha anunciado que optimizará versiones de DeepSeek R1 destiladas para sus Copilot+ PCs, haciendo que cualquiera que tenga estos equipos pueda ejecutar en recinto estos modelos de verbo optimizados para chips neurales basados en ARM como los de Snapdragon X, Intel Defecto Lake o AMD Ryzen AI 9.

Microsoft da la bienvenida a DeepSeek en sus equipos

Según ha anunciado la compañía en una publicación de su blog oficial, comenzarán con ‘DeepSeek-R1-Distill-Qwen-1.5B’, una lectura de DeepSeek R1 destilada de Qwen y con 1.500 millones de parámetros. La destilación de modelos consiste en entrenar un maniquí más pequeño (con menos parámetros, y en líneas generales menos capaz), a partir de la información de un maniquí más excelso y progresista. De este modo, se logra un sistema más apto y rápido sin comprometer significativamente su rendimiento.

El maniquí podrá ser descargado en el equipo a través de Microsoft AI Toolkit, un conjunto de herramientas para desarrolladores. Las versiones de 7B y 14B llegarán próximamente. Los Copilot+ PC de Microsoft son equipos con Windows 11 que cuentan, como intrascendente, con 256 GB de almacenamiento interno, 16 GB de RAM y una NPU con la capacidad de proveer un intrascendente de 40 TOPS de potencia. Esto significa que algunos PC antiguos equipados con NPU no podrán ejecutar estos modelos localmente.

“Estos modelos optimizados permiten a los desarrolladores crear y desplegar aplicaciones basadas en IA que se ejecutan de forma apto en el dispositivo, aprovechando al mayor las potentes NPU de los Copilot+ PC”, afirma Microsoft desde su publicación. “Con nuestro trabajo en Phi Silica, hemos sido capaces de servirse la inferencia de ingreso eficiencia - ofreciendo un tiempo muy competitivo para el primer token y tasas de rendimiento, mientras que afecta mínimamente a la duración de la conjunto y el consumo de bienes del PC ... Por otra parte, aprovechamos Windows Copilot Runtime (WCR) para subir a través del diverso ecosistema de Windows con formato ONNX QDQ.”

En esta misma publicación, Microsoft comparte encima cómo ha acabado que los modelos de DeepSeek R1 puedan ejecutarse en recinto mediante hardware basado en NPU. “En primer área, aprovechamos un diseño de ventana deslizante que proporciona un tiempo superrápido hasta el primer token y soporte de contexto abundante a pesar de no disponer de soporte de tensor dinámico en el hardware. En segundo área, utilizamos el esquema de cuantificación QuaRot de 4 bits para servirse positivamente el procesamiento de bits bajos”.

Aunque no han hexaedro una data, desde Microsoft aseguran que el maniquí destilado de R1 llegará pronto a la extensión AI Toolkit de VS Code, por lo que cualquier desarrollador que utilice este entorno de programación podrá beneficiarse de las capacidades de este maniquí de verbo en un Copilot+ PC con NPU.

Por otra parte de esto, Microsoft se ha libre a los modelos de DeepSeek de tal guisa que incluso ha hecho estos modelos compatibles incluso a través de la nubarrón de Azure AI Foundry. Esto permite que cualquiera que utilice estos servicios en la nubarrón pueda trabajar con los modelos de verbo de DeepSeek optimizados por Microsoft.

Es sorprendente cómo Microsoft ha adaptado DeepSeek a sus tecnologías, teniendo en cuenta que la gran mayoría de las firmas tecnológicas estadounidenses se encuentran en estado de alerta frente a la existencia de este maniquí.

En Genbeta | Creer por un verbo minoritario es el secreto de la descomunal eficiencia de DeepSeek: deja de banda al habitual CUDA de NVIDIA