In einer Zeit, in der Smartphones beinahe zu einer Erweiterung des menschlichen Körpers geworden sind, findet still und leise eine Revolution statt: Die rasante Weiterentwicklung der KI-Technologie (künstliche Intelligenz) beginnt, die Art und Weise, wie wir mit unseren Telefonen interagieren, neu zu definieren.

IDC (International Data Corporation) prognostiziert, dass es in den nächsten Jahren zu einem bedeutenden Wendepunkt kommen wird: Im Jahr 2024 werden weltweit 170 Millionen KI-Smartphones ausgeliefert, und bis 2027 werden allein auf dem chinesischen Markt 150 Millionen KI-Telefone ausgeliefert. Es ist offensichtlich, dass KI keine ferne Zukunftstechnologie mehr ist, sondern eine reale Kraft, die in unser Leben integriert ist.

Angesichts des boomenden Marktes haben Mobiltelefonhersteller auf der ganzen Welt begonnen, Maßnahmen zu ergreifen und im Wettbewerb der KI-Großmodellforschung und -entwicklung die Schnellvorlauftaste gedrückt. Mobiltelefone sind zum ersten Schlachtfeld für die Implementierung von KI geworden.

Es folgen auch Herausforderungen.

Wie baut man ein KI-Telefon? In der Vergangenheit bestand die Praxis darin, große Modelle in der Cloud bereitzustellen und sich für die Ausführung vollständig auf die Rechenleistung der Cloud zu verlassen. Dieser Ansatz wird den Anforderungen der Benutzer nach sofortiger Reaktion und hoher Personalisierung jedoch häufig nicht gerecht.

Zu den Herausforderungen, die sich hinter dieser technologischen Entwicklung verbergen, gehört auch die Frage, wie immer komplexere KI-Modelle auf Mobiltelefonen mit begrenzten Ressourcen ausgeführt werden können und wie Probleme wie Netzwerklatenz und Datensynchronisierung gelöst werden können.

Die Suche nach einer Komplettlösung ist in der Kommunikationsbranche mittlerweile Konsens.

In diesem kritischen Moment. Alibaba Cloud und MediaTek haben kürzlich gemeinsam die End-Cloud-Kollaborationstechnologie angekündigt, bei der das große Modell „Tongyi Qianwen“ erfolgreich auf dem SoC bereitgestellt und erstmals die umfassende Anpassung des großen Modells auf der Seite der Mobiltelefonchips realisiert wurde.

Diese Innovation stellt nicht nur sicher, dass Benutzer auch bei unterbrochener Netzwerkverbindung weiterhin reibungslose KI-Dienste nutzen können, sondern zeigt auch, dass die Benutzererfahrung mit KI-Smartphones dank der End-Cloud-Kollaborationstechnologie in das „Reich der Freiheit“ vorgedrungen ist, d. h. KI kann jederzeit und überall verwendet werden und erfüllt die Anforderungen der Benutzer an KI-Funktionen in komplexen Szenarien.

Hinter der Innovation stehen die Ergebnisse einer intensiven Zusammenarbeit zwischen Alibaba Cloud und MediaTek in den Bereichen Modellverschlankung, Toolchain-Optimierung, Inferenzbeschleunigung und anderen Aspekten. Es hat zahlreiche Herausforderungen bewältigt, vom zugrunde liegenden Chip bis hin zur Entwicklung von Betriebssystemen und Anwendungen auf höherer Ebene, und das enorme Potenzial einer tiefen Integration von Software und Hardware aufgezeigt.

Diese Erforschung der Edge-KI-Technologie eröffnet nicht nur einen neuen Kanal für die Kommerzialisierung von Model-on-Chip, sondern bietet auch neue Lösungen für globale Mobiltelefonhersteller und zeigt, dass die Smartphone-Branche kurz vor dem Eintritt in eine neue KI-Ära steht.

Neuer Trend – Model on Chip

Durch die Optimierung und Bereitstellung großer Modelle künstlicher Intelligenz auf Mobiltelefonprozessoren wird die traditionelle Abhängigkeit von Mobiltelefonen von der Rechenleistung der Cloud überwunden. Diese Innovation ermöglicht nicht nur die Ausführung fortschrittlicher KI-Funktionen wie natürlicher Sprachverarbeitung und Bilderkennung direkt auf Mobiltelefonen, sondern verbessert auch die Ausführungseffizienz erheblich und sorgt gleichzeitig für einen qualitativen Sprung in puncto Benutzererfahrung und Datenschutz.

Xu Dong, Geschäftsführer von Tongyi Lab, betonte: „End-Side-KI ist der Schlüssel zur Implementierung großer Modellanwendungen und steht vor Herausforderungen wie der Anpassung von Hard- und Software sowie einer unzureichenden Entwicklungsumgebung. Durch die Zusammenarbeit zwischen Alibaba Cloud und MediaTek konnten diese Schwierigkeiten erfolgreich überwunden werden. Durch umfassende technische Forschung von der zugrunde liegenden Hardware bis hin zu Anwendungen auf höherer Ebene konnten große Modelle erfolgreich auf Mobiltelefonchips eingesetzt werden, was einen neuen Trend bei der Bereitstellung von End-Side-KI in Model-on-Chip anführt.“

Es wird davon ausgegangen, dass das Open-Source-Großmodell von „Tongyi Qianwen“ mit 1,8 Milliarden Parametern frühere Modelle übertrifft und erhebliche Fortschritte bei der Leistung und Ressourcennutzungseffizienz erzielt hat. Es kann bis zu 2048 Token verarbeiten und benötigt dafür nur 1,8 GB Speicher, was seine niedrigen Kosten, die einfache Bereitstellung und seine äußerst kommerziell freundlichen Eigenschaften unterstreicht.

Beobachter sind der Ansicht, dass diese technologische Innovation bisherige Beschränkungen durchbrochen und eine umfassende Anpassung großer Modelle an Mobiltelefonchips ermöglicht hat. Was die technischen Prinzipien dahinter betrifft, spielte das produktorientierte Denken von Alibaba Cloud bei der Umsetzung eine unverzichtbare Rolle.

Zunächst muss das große Modell abgespeckt werden, bevor es in das winzige Telefon passt. Die Modellgröße wird durch verschiedene technische Mittel wie Quantisierung, Parameterbeschneidung und Wissensdestillation reduziert.

Bei der Quantisierung handelt es sich um den Prozess der Umwandlung der Gleitkommaparameter des Modells in effizientere Ganzzahlformen mit geringerer Breite, wodurch der Bedarf an Speicher- und Rechenressourcen reduziert wird. Beim Parameter-Pruning handelt es sich um den Vorgang, die Größe des Modells durch das Entfernen von Nicht-Kernparametern zu reduzieren. Wissensdestillation ist die Verwendung eines kleinen, aber effizienten Modells, um das Verhalten eines komplexen großen Modells zu imitieren, wodurch das Modell leichtgewichtig gemacht und gleichzeitig seine Leistung aufrechterhalten werden kann.

Zweitens kann es bei dem quantisierten Modell trotz seiner geringeren Größe zu Leistungseinbußen kommen. Daher sind verschiedene Optimierungen und sorgfältige Anpassungen erforderlich, um die Leistung des Modells weiter zu verbessern und seinen effizienten Betrieb auf Mobiltelefonen sicherzustellen.

Schließlich muss das optimierte große Modell sein Potenzial weiter steigern, die Modellfunktionen schrittweise stärken und sich besser an die spezifischen Anforderungen von Terminalanwendungen anpassen.

Die End-Cloud-Collaboration-Technologie von Alibaba Cloud kombiniert die Vorteile von Cloud Computing und Edge Computing. Im Vergleich zu herkömmlichen Methoden bietet es fünf wesentliche Vorteile: geringe Latenz, Datenschutz, Offline-Fähigkeit, Bandbreiteneinsparung und Echtzeitverarbeitung. Diese Technologie ist entscheidend für zukünftige Anwendungsszenarien wie autonomes Fahren und intelligente Fertigung.

End-Cloud-Zusammenarbeit verändert mobile KI

Es ist absehbar, dass die End-Cloud-Kollaborationstechnologie die Rechenleistung von KI-Mobiltelefonen völlig verändert hat. Beispielsweise können intelligente Sprachassistenten einfache Anfragen, etwa Wetterabfragen, schnell verarbeiten, während komplexe Aufgaben durch Nutzung der leistungsstarken Rechenleistung der Cloud erledigt werden, was ein effizientes und flexibles Benutzererlebnis bietet.

Im Hinblick auf den Datenschutz verbessert die End-Cloud-Kollaborationstechnologie die Datensicherheit und den Datenschutz erheblich, indem sensible Daten auf der Geräteseite verarbeitet werden. Beispielsweise werden bei Anwendungen zur Gesundheitsüberwachung persönliche Gesundheitsdaten zunächst lokal verschlüsselt und nur die erforderlichen Informationen sicher an die Cloud übertragen, wodurch das Risiko eines Datenverlusts wirksam verringert wird.

Jüngsten Datenprognosen zufolge dürften die Marktarten und -zahlen von KI-Smartphones aufgrund der kontinuierlichen Weiterentwicklung fortschrittlicher KI-Modelle und Hardwaretechnologie bis 2024 deutlich wachsen. Die Marktdurchdringung dürfte 6,4 % erreichen und sich bis 2025 voraussichtlich auf 19 % verdoppeln.

Dieser Trend spiegelte sich deutlich auf dem Mobile World Congress 2024 wider, wo Mobiltelefonmarken wie Honor, OPPO und vivo ihre neuesten KI-Telefone vorstellten und die vielen Anwendungsmöglichkeiten der KI-Technologie zur Verbesserung des Benutzererlebnisses hervorhoben. Mit der Dezentralisierung der Cloud-Kollaborationstechnologie von Alibaba Cloud wird sich die Wettbewerbslandschaft auf dem Smartphone-Markt zwangsläufig stark verändern – wer kann schon ein Mobiltelefon ablehnen, auf dem große KI-Modelle lokal ausgeführt werden können?

Gleichzeitig bietet die End-Cloud-Collaboration-Technologie auch starke Impulse und eine breite Plattform für die Innovation mobiler Anwendungen. Entwickler können diese Technologie nutzen, um innovativere Anwendungen zu entwickeln, die den individuellen Bedürfnissen der Benutzer gerecht werden und so die Vitalität und den ökologischen Wohlstand des Marktes für mobile Anwendungen beschleunigen.

Abschluss

Dieser Wandel, der durch die kollaborative End-Cloud-Technologie vorangetrieben wird, läutet nicht nur eine beispiellose neue Ära für die Leistung und Anwendungen von Mobiltelefonen ein, sondern stellt auch einen Fortschritt bei der tiefen Integration von Mensch und KI dar. Infolgedessen befinden wir uns auch auf einem neuen Weg der technologischen Entwicklung und sind Zeugen der schrittweisen Weiterentwicklung von Mobiltelefonen von traditionellen Kommunikations- und Unterhaltungstools zu Allround-Partnern mit integrierter KI-Intelligenz. Es ist absehbar, dass sich mit der weiteren Integration der KI-Technologie auch die Zukunft der Mobiltelefone in unendliche Möglichkeiten verwandeln wird.

Als Gewinner des Qingyun-Plans von Toutiao und des Bai+-Plans von Baijiahao, des Baidu-Digitalautors des Jahres 2019, des beliebtesten Autors von Baijiahao im Technologiebereich, des Sogou-Autors für Technologie und Kultur 2019 und des einflussreichsten Schöpfers des Baijiahao-Vierteljahrs 2021 hat er viele Auszeichnungen gewonnen, darunter den Sohu Best Industry Media Person 2013, den dritten Platz beim China New Media Entrepreneurship Competition Beijing 2015, den Guangmang Experience Award 2015, den dritten Platz im Finale des China New Media Entrepreneurship Competition 2015 und den Baidu Dynamic Annual Powerful Celebrity 2018.