PrismML teknolojisi, 27 milyar parametreli yapay zeka modellerini doğrudan iPhone'larda çalıştırıyor
The Information’ın raporuna göre, girişim, Alibaba'nın açık kaynaklı büyük dil modeli Qwen 3.6'yı iPhone 17 Pro'da çalışacak şekilde sıkıştırmayı başarmış. Model, 27 milyar parametre içermesiyle Apple'ın 20 milyar parametreye sahip kendi AFM 3 Core Advanced modelini geride bırakıyor. Apple'ın modeli, iPhone 17 Pro ve iPhone Air modellerinde Siri AI’ın daha etkileyici sesleri ve geliştirilmiş sistem genelinde dikte gibi iOS 27 geliştirmelerini destekliyor. Ancak Apple, aynı anda yalnızca 1 ila 4 milyar parametrenin aktif olduğu seyrek bir mimari kullanıyor. Buna karşılık, PrismML’in çözümü tüm 27 milyar parametreyi aynı anda aktif tutarak daha büyük bir hesaplama kapasitesi sunuyor.
Doğrudan iPhone'da işleme sayesinde gizlilik ve maliyet avantajı
Daha büyük yapay zeka modellerini doğrudan cihazda çalıştırmak, birçok Apple Intelligence özelliğinin verileri Apple'ın Özel Bulut Bilişim sunucularına göndermeden çalışmasına olanak tanıyor. Bu, harici altyapıya olan bağlılığı azaltıyor, Apple’ın maliyetlerini düşürüyor, kullanıcı gizliliğini de önemli ölçüde artırıyor.
Apple'ın bu hamlesi, OpenAI’ın ChatGPT'ye gerçek zamanlı çeviri ve görsel kartlar getiren GPT-Live çift yönlü ses özelliğini kullanıma sunmasının ardından geldi. ChatGPT bulut işlemeye dayanırken, Apple hesaplamayı yerel tutmayı hedefliyor; bu da daha hızlı yanıt süreleri ve daha güçlü gizlilik sağlayabilir. PrismML ile ortaklık başarılı olursa, gelecekteki iPhone'lar daha karmaşık modelleri barındırabilir ve güvenliği tehlikeye atmadan Siri'nin yeteneklerini ve diğer yapay zeka işlevlerini genişletebilir. Büyük dil modellerinin temel teknolojisi hızla ilerliyor; Apple da ekosistemini en ön sıralarda tutmak için bu yeniliklerden yararlanmaya kararlı görünüyor.
