Yapay zeka alanında donanım gücüyle bilinen AMD, stratejisini genişleterek yazılım tarafında da iddialı bir adım attı. Şirket, bu alandaki hedefini, Nvidia’nın henüz tam hakimiyet kuramadığı yeni pazar segmentlerine ulaşmak olarak belirledi.
Bu kapsamda AMD, özel işletmelere yönelik ilk küçük dil modeli olan AMD-135M’yi tanıttı. Llama ailesine ait olan bu model, AMD’nin donanım ve yazılım alanındaki yeteneklerini birleştirerek yapay zeka çözümlerinde daha geniş bir yelpazede yer edinme hedefini ortaya koyuyor.
AMD, yeni dil modelinin hızını “tahminsel kod çözme” adını verdiği bir teknolojiyle sağlıyor. Bu yöntemde, daha küçük bir “taslak model”, aynı anda birden fazla kelime tahmini (token) üretir. Ardından, daha kapsamlı ve hassas olan “hedef model”, bu tahminleri değerlendirip doğrular veya düzeltir. Bu sayede her adımda birden fazla kelime işlendiği için işlem hızı artar ve performanstan ödün vermeden daha hızlı sonuçlar elde edilir. AMD, bu yeni modelin aynı donanım üzerinde 2 ila 3 kat daha hızlı çalıştığını ve verimliliği artırdığını iddia ediyor. Ancak bu artan işlem hacmi, beraberinde daha fazla güç tüketimi getiriyor.
AMD, yeni dil modelini iki farklı versiyonla sunuyor. AMD-Llama-135M ve AMD-Llama-135M-code. Her iki versiyon da tahminsel kod çözme teknolojisini kullanarak belirli görevlere odaklanıyor ve bu alanlarda üstün performans sağlıyor.
AMD’nin temel dil modeli AMD-Llama-135M, 670 milyar genel veri token’ı kullanılarak sıfırdan eğitildi ve bu işlem dört adet 8 yollu AMD Instinct MI250 tabanlı sistemde sadece 6 gün sürdü. Kodlamaya odaklanan AMD-Llama-135M-code ise, 20 milyar ek token ile özelleştirildi ve aynı donanım üzerinde 4 gün içinde tamamlandı. AMD, gelecekte yapılacak optimizasyonlarla daha da yüksek performans elde etmeyi hedefliyor.
Yeni yapay zeka haberlerinden Google Gmail’e Yeni Yapay Zeka Özellikleri Getiriyor ilginizi çekebilir.
Bir yanıt yazın