Ereignis
Llama 2 und die Frage nach offener KI
Meta stellte am 18. Juli 2023 Llama 2 vor: eine Familie vortrainierter Sprachmodelle und für Dialoge angepasster Varianten. Der Forschungsbericht nennt Modellgrößen von 7 bis 70 Milliarden Parametern. Meta stellte Modellgewichte unter einer eigenen Lizenz zur Nutzung und Weitergabe bereit; sie erlaubte unter Bedingungen auch kommerzielle Nutzung. Quellen
Der Forschungsbericht nennt zwei Billionen Tokens für das Vortraining. Er beschreibt auch ein trainiertes Modell mit 34 Milliarden Parametern, dessen Veröffentlichung damals wegen noch nicht abgeschlossener Sicherheitstests zurückgestellt wurde. Eine Stanford-Bewertung von 2024 fand die einzelnen Datenquellen für ihr Offenlegungskriterium nicht ausreichend aufgeschlüsselt. Forschungsbericht und Bewertung
Was bedeutet dabei „offen“? Meta bezeichnete Llama 2 als Open Source. Die Open Source Initiative widersprach: Die Lizenz enthalte Einschränkungen für bestimmte Nutzer und Einsatzzwecke. Für sehr große Anbieter sah sie unter festgelegten Bedingungen eine zusätzliche Lizenzanfrage vor. Verfügbare Modellgewichte allein bedeuten außerdem nicht, dass sämtliche Trainingsdaten veröffentlicht sind. Lizenz und Stellungnahme
Belege
- Ankündigung, Forschungsarbeit, Lizenz und Stellungnahme.
- GPT-4 im selben Jahr: ein gesondertes Modell und eine andere Veröffentlichung.
Offen
Umfang der einzelnen veröffentlichten Trainingsmaterialien und Änderungen an Zugangsbedingungen prüfen. / Check the scope of released training materials and changes in access terms.