Gönüllüler ve üniversitelerden oluşan Lattice Commons, şimdiye kadarki en büyük modeli Commons-70B’yi yayımladı. Model, kısıtlama içermeyen Apache 2.0 lisansıyla dağıtılıyor.
Proje yalnızca ağırlıkları değil, eğitim kodunu, veri karışımının kaynak listesini ve eğitim sırasında kaydedilen ara kontrol noktalarını da paylaştı. Bu, modelin baştan yeniden eğitilebilmesini sağlıyor.
Lattice Commons’ın yayımladığı sonuçlara göre model, genel bilgi ve matematik testlerinde kapalı modellerin bir yıl önceki seviyesini geçiyor. Ajan ve araç kullanımı testlerinde ise belirgin biçimde geride. Model, 4 bitlik sıkıştırmayla iki tüketici ekran kartında çalıştırılabiliyor.
Kaynaklar
- Lattice Commons duyurusu
- Commons-70B model kartı