WebNN: Die AI Revolution im Browser? | mit Christian Liebel | BASTA!

Auf der diesjährigen Frankfurter BASTA! stellte Christian Liebel von Thinktecture die Web Neural Network API (WebNN) vor, die vom W3C entwickelt wurde. Viele Entwickler
möchten derzeit KI-Funktionen in ihre Anwendungen integrieren, was bisher oft nur über die Cloud möglich war. Doch WebNN bietet eine Alternative: Sie ermöglicht es, KI-Modelle wie Large Language Models (LLM) oder Stable-Diffusion-Modelle effizient auf der eigenen Hardware auszuführen, indem sie Zugriff auf die Neural Processing Unit (NPU) moderner Computer gewährt. Dadurch können zukunftsweisende, offlinefähige und komplett lokale Anwendungen direkt für den Browser entwickelt werden. In seinem Vortrag erläuterte Christian Liebel die Funktionsweise der WebNN API, diskutierte mögliche Anwendungsfälle und zeigte die Einschränkungen des Ansatzes auf.
► Zur BASTA! Webseite: basta.net/
► Das volle Programm: basta.net/prog...
► Ihr Ticket zum Erfolg: basta.net/tick...

[@luggiiiluggiii7179]

Eine Variante bei der man das dicke Paket auf dem Server liegen hat und der User nicht clientseitig runterladen muss wäre gut, aber auch möglich?