Cercetările recente în domeniul inteligenței artificiale demonstrează progrese semnificative în crearea de modele lingvistice mari (LLM) mai eficiente și mai compacte. Inginerii și oamenii de știință lucrează activ la metode de cuantificare, distilare a cunoștințelor și optimizare a arhitecturii, permițând rularea modelelor puternice pe dispozitive cu resurse limitate. Acest lucru deschide noi oportunități pentru calculul la periferie (edge computing) și îmbunătățirea accesibilității tehnologiilor AI.