moinsen / SoftwaregeschichteEN ↗
← 2023

Ereignis

Llama 2 und die Frage nach offener KI

Einordnung und Recherchestand
  • Kennung: 2023-llama2
  • Zeitpunkt: 18. Juli 2023
  • Datumsgenauigkeit: Tag / day
  • Art: Modellveröffentlichung und Lizenzdebatte / model release and licensing debate
  • Kategorien: Wandel und Einflussfaktoren, Sprachen und Techniken, Prägende Akteure, Markt und Alltag, Zahlen und Fakten
  • Beteiligte: Meta und Forschungsteam: Entwicklung und Veröffentlichung; Open Source Initiative: Lizenzeinordnung
  • Region: international / international

Meta stellte am 18. Juli 2023 Llama 2 vor: eine Familie vortrainierter Sprachmodelle und für Dialoge angepasster Varianten. Der Forschungsbericht nennt Modellgrößen von 7 bis 70 Milliarden Parametern. Meta stellte Modellgewichte unter einer eigenen Lizenz zur Nutzung und Weitergabe bereit; sie erlaubte unter Bedingungen auch kommerzielle Nutzung. Quellen

Der Forschungsbericht nennt zwei Billionen Tokens für das Vortraining. Er beschreibt auch ein trainiertes Modell mit 34 Milliarden Parametern, dessen Veröffentlichung damals wegen noch nicht abgeschlossener Sicherheitstests zurückgestellt wurde. Eine Stanford-Bewertung von 2024 fand die einzelnen Datenquellen für ihr Offenlegungskriterium nicht ausreichend aufgeschlüsselt. Forschungsbericht und Bewertung

Was bedeutet dabei „offen“? Meta bezeichnete Llama 2 als Open Source. Die Open Source Initiative widersprach: Die Lizenz enthalte Einschränkungen für bestimmte Nutzer und Einsatzzwecke. Für sehr große Anbieter sah sie unter festgelegten Bedingungen eine zusätzliche Lizenzanfrage vor. Verfügbare Modellgewichte allein bedeuten außerdem nicht, dass sämtliche Trainingsdaten veröffentlicht sind. Lizenz und Stellungnahme

Belege

Offen

Umfang der einzelnen veröffentlichten Trainingsmaterialien und Änderungen an Zugangsbedingungen prüfen. / Check the scope of released training materials and changes in access terms.