Software NNCodec zur Kompression neuronaler Netze
NNCodec Logo
© Fraunhofer HHI
Das Fraunhofer Heinrich-Hertz-Institut (HHI) hat die neue Software NNCodec entwickelt, mit der neuronale Netze auf einen Bruchteil ihrer Größe komprimiert werden können. Dabei entsteht kein Qualitätsverlust. NNCodec steht ab sofort über die Softwareentwicklungsplattform GitHub für die nicht-kommerzielle Nutzung zum freien Download bereit. Die Software richtet sich speziell an Forschungsgruppen und Entwicklungsteams im Bereich KI, die mit NNCodec eine leistungsstarke und standardkonforme Lösung erhalten.
NNCodec ist eine quelloffene und nutzerfreundliche Software, die Encoder- und Decoder-Module zur Kompression neuronaler Netze enthält. Sie implementiert damit den neuen MPEG-Standard „Neural Network Coding (NNC – ISO/IEC 15938-17:2022)“, der mit maßgeblichen Beiträgen vom Fraunhofer HHI mitentwickelt und im August 2022 formal von ISO/IEC verabschiedet wurde.
Neuronale Netze bilden die Grundlage für zahlreiche Ansätze der Künstlichen Intelligenz und sind aus vielen Anwendungen nicht mehr wegzudenken. Dadurch ist eine Vielzahl unterschiedlicher neuronaler Netzarchitekturen für verschiedenste Anwendungen entstanden. Gleichzeitig werden diese Netze immer komplexer, d.h. die Anzahl ihrer Schichten, Verknüpfungen und Parameter ist drastisch gestiegen. Dementsprechend benötigen neuronale Netze ein zunehmendes Maß an Rechenkapazität und Arbeitsspeicher. Ohne hinreichend effiziente Kompression sind neuronale Netze kaum in Mobiltelefone integrierbar. Zugleich benötigen sie eine hohe Datenübertragungsrate.
Mit NNCodec steht nun eine effiziente Software zur Verfügung, mit der trainierte neuronale Netze ohne Qualitätsverlust typischerweise auf 5-10% ihrer Originalgröße komprimiert werden können. Hierdurch können neuronale Netze effizient gespeichert und an andere KI-Anwendungen übertragen werden. Zu den zahlreichen Anwendungsszenarien, die vom Einsatz des NNC-Standards profitieren, zählen 5G-Anwendungen, Bild- und Videokompression, 3D-Rekonstruktions- und Codier-Methoden sowie KI-Technologien zur Mobilität wie autonomes Fahren. Insbesondere in verteilten Lernumgebungen wie dem Federated Learning ist ein regelmäßiger Austausch neuronaler Netze zwischen beteiligten Geräten notwendig. Hier kann mithilfe des NNC-Standards eine starke Reduktion der erforderlichen Kommunikationsbitrate erreicht werden.
„Wir sind stolz darauf, den NNC-Standard maßgeblich mitentwickelt zu haben und bereits wenige Monate nach seiner Verabschiedung mit NNCodec eine quelloffene und nutzerfreundliche Softwarerealisierung von NNC präsentieren zu können,“ sagt Dr. Detlev Marpe, Abteilungsleiter „Videokommunikation & Applikationen“ am Fraunhofer HHI. Prof. Wojciech Samek, Abteilungsleiter „Künstliche Intelligenz“ am Fraunhofer HHI kommentiert weiterhin: „Wir freuen uns, dass wir mit dieser optimierten Softwarelösung ein breites Spektrum an Anwendungen für neueste KI-Entwicklungen und neuronale Netze, wie CNNs, Autoencoder oder Transformer-Netzwerke bedienen können.“
Die NNCodec-Software mit En- und Decoder-Modulen ist seit dem 21.11.2022 auf GitHub verfügbar. Genauere Informationen hierzu finden sich auf: Neural Network Codec (Link, siehe unten).
Über das Fraunhofer Heinrich-Hertz-Institut
Die Digitalisierung voranzutreiben und so ressourcenschonend wie möglich zu gestalten, ist ein Leitprinzip der Forschungs- und Entwicklungsarbeit am Fraunhofer HHI. Unterteilt in sieben Forschungsabteilungen arbeiten rund 570 Mitarbeitende in Berlin und Goslar an unterschiedlichen Digitalisierungsthemen. Die Forschenden beschäftigen sich mit optischen Netzen und Systemen, photonischen Komponenten, faseroptischen Sensorsystemen, drahtloser Kommunikation und Netzen, Videokommunikation und Applikationen, Vision- und Imaging-Technologien sowie mit künstlicher Intelligenz. Thematisch ist das Fraunhofer HHI breit aufgestellt, um den gesellschaftlichen Fortschritt in vielen Bereichen mitzugestalten.
Wissenschaftliche Ansprechpartner:
Dr. Detlev Marpe | detlev.marpe@hhi.fraunhofer.de | Telefon +49 30 31002-619
Prof. Wojciech Samek | wojciech.samek@hhi.fraunhofer.de | Telefon +49 30 31002-417
Weitere Informationen:
Media Contact
Alle Nachrichten aus der Kategorie: Informationstechnologie
Neuerungen und Entwicklungen auf den Gebieten der Informations- und Datenverarbeitung sowie der dafür benötigten Hardware finden Sie hier zusammengefasst.
Unter anderem erhalten Sie Informationen aus den Teilbereichen: IT-Dienstleistungen, IT-Architektur, IT-Management und Telekommunikation.
Neueste Beiträge
Wie die Nähindustrie wieder nach Europa kommen könnte
100.000 Euro DBU-Gelder für automatisierten Nähroboter Osnabrück. Die goldenen Zeiten der Nähindustrie mit vielen Standorten in Deutschland und Europa liegen schon eine Weile zurück. Billiglohnländer in Asien statt Europa wurden…
HZB-Patent zur Halbleitercharakterisierung geht in die Serienproduktion
Ein HZB-Team hat einen innovativen Monochromator entwickelt, der nun von einem Unternehmen produziert und vermarktet wird. Das Gerät ermöglicht es, die optoelektronischen Eigenschaften von Halbleitermaterialien kontinuierlich und rasch mit hoher…
Mit Künstlicher Intelligenz das Bodenverhalten prognostizieren
Klimaanpassung ist häufig mit Baumaßnahmen verbunden: Etwa von Deichen, Windenergieanlagen oder Pfählen zur Nutzung der Erdwärme. Die Beschaffenheit von Böden ist für solche Bauprojekte ein ausschlaggebender Faktor. Sie mittels Künstlicher…
