Durante o Microsoft Build 2023, a Qualcomm Technologies exibiu as suas mais recentes inovações em IA on-device, incluindo IA generativa em execução em plataformas de computação Snapdragon, bem como novos caminhos para desenvolvedores que criam aplicativos para PCs com Windows 11 alimentados por Snapdragon®.
“Para que a IA generativa se torne verdadeiramente mainstream, grande parte da inferência precisará ser executada em dispositivos de borda”, disse Ziad Asghar, senior vice president of product management, Qualcomm Technologies, Inc. “Nosso melhor hardware e software de IA da categoria capacita os desenvolvedores a fazer pleno uso de nossos poderosos recursos de IA, oferecendo novas experiências de usuário incríveis em laptops, telefones e outros dispositivos alimentados pelo Snapdragon.”
O futuro da IA precisa incluir IA no dispositivo e na nuvem. A execução de aplicativos de IA no dispositivo melhora a relação custo-benefício, a privacidade, a personalização e a latência. As plataformas Snapdragon incluem o Qualcomm® AI Engine dedicado para processar cargas de trabalho de IA de forma mais eficiente do que quando processadas puramente em CPU ou GPU, tornando a IA on-device possível mesmo em dispositivos pequenos, finos e leves.
No Microsoft Build, a Qualcomm Technologies fará demonstrações e oferecerá ferramentas para ajudar a desenvolver IA generativa na próxima geração de PCs com Windows 11. O Stable Diffusion, um modelo de IA generativa de texto para imagem com mais de 1 bilhão de parâmetros, agora roda inteiramente no dispositivo, e a empresa diz que vê um caminho claro para rodar modelos com até 10 bilhões de parâmetros em dispositivos nos próximos meses, incluindo modelos linguísticos grandes (large language models – LLMs). Para aprimorar o Qualcomm AI Stack e ajudar os desenvolvedores a criar a próxima geração de experiências de IA no dispositivo, o Qualcomm® AI Engine Direct SDK será disponibilizado ao público pela primeira vez no Build. Com o ONNX Runtime e o Qualcomm AI Stack, é possível executar as cargas de trabalho de IA hoje no Snapdragon 8cx Gen 3 AI Engine no Surface Pro 9 5G e no Lenovo ThinkPad x13s.
“Tanto a nuvem quanto o processamento de dispositivos são necessários para estender a IA por todo o vasto universo de dispositivos e aplicativos”, disse Pavan Davuluri, Corporate VP, Windows Silicon and System Integration at Microsoft. “Ao reunir a liderança em IA em nuvem da Microsoft e os recursos da plataforma Windows com a experiência em IA on-device da Qualcomm Technologies, aceleraremos as oportunidades para experiências de IA generativas.”
A Qualcomm Technologies também mostrará no Build as melhorias de desempenho disponíveis quando aplicativos populares são compilados nativamente para o Snapdragon, bem como estreará um novo portal do desenvolvedor [https://www.qualcomm.com/developer/windows-on-snapdragon] que coleta ferramentas, recursos e suporte críticos para o desenvolvimento do Windows no Snapdragon em um local fácil de usar.
