DrWindows
Redaktion
LocalScore: Mozilla stellt neuen Benchmark für lokale KI vor
von Kevin Kozuszek
Momentan reiten so ziemlich alle großen Softwareunternehmen auf der Welle von Künstlicher Intelligenz mit und auch Mozilla ist vor dem Hintergrund keine Ausnahme. Um die Leistungsfähigkeit der eigenen Hardware bei der lokalen Ausführung von KI-Anwendungen bewerten zu können, haben die Entwickler nun einen neuen Benchmark vorgestellt. LocalScore setzt dabei auf die APL 2.0 als Lizenz und ist entsprechend ein OpenSource-Projekt.
Der Benchmark selbst steht für Windows, macOS und Linux zur Verfügung und kann je nach verbautem Arbeitsspeicher in drei Größen heruntergeladen werden: Tiny (bis 2 GB), Small (bis 6 GB) und Medium (bis 10 GB). Der entsprechende Score wird dann anhand von drei zentralen Metriken ausgeworfen: wie schnell das eigene System einen Input verarbeitet, wie schnell der Antworttext generiert wird und wie groß die Latenz ist, bevor die erste Antwort erscheint.
Genauere Informationen, wie LocalScore ausgeführt wird, könnt ihr dem nachfolgend verlinkten Video entnehmen. Weitere Informationen stellt auch die offizielle Website dazu bereit.
Der Beitrag LocalScore: Mozilla stellt neuen Benchmark für lokale KI vor erschien zuerst auf Dr. Windows.
Hinweis: Der Artikel wird möglicherweise nicht vollständig angezeigt, eingebettete Medien sind in dieser Vorschau beispielsweise nicht zu sehen.
Artikel im Blog lesen
von Kevin Kozuszek
Momentan reiten so ziemlich alle großen Softwareunternehmen auf der Welle von Künstlicher Intelligenz mit und auch Mozilla ist vor dem Hintergrund keine Ausnahme. Um die Leistungsfähigkeit der eigenen Hardware bei der lokalen Ausführung von KI-Anwendungen bewerten zu können, haben die Entwickler nun einen neuen Benchmark vorgestellt. LocalScore setzt dabei auf die APL 2.0 als Lizenz und ist entsprechend ein OpenSource-Projekt.
Der Benchmark selbst steht für Windows, macOS und Linux zur Verfügung und kann je nach verbautem Arbeitsspeicher in drei Größen heruntergeladen werden: Tiny (bis 2 GB), Small (bis 6 GB) und Medium (bis 10 GB). Der entsprechende Score wird dann anhand von drei zentralen Metriken ausgeworfen: wie schnell das eigene System einen Input verarbeitet, wie schnell der Antworttext generiert wird und wie groß die Latenz ist, bevor die erste Antwort erscheint.
Genauere Informationen, wie LocalScore ausgeführt wird, könnt ihr dem nachfolgend verlinkten Video entnehmen. Weitere Informationen stellt auch die offizielle Website dazu bereit.
Der Beitrag LocalScore: Mozilla stellt neuen Benchmark für lokale KI vor erschien zuerst auf Dr. Windows.
Hinweis: Der Artikel wird möglicherweise nicht vollständig angezeigt, eingebettete Medien sind in dieser Vorschau beispielsweise nicht zu sehen.
Artikel im Blog lesen