Open-Weight-KI-Modelle bleiben teuer: Auch nach dem Training kostet jede einzelne Inferenz entsprechenden Rechenaufwand.
One of the most common misconceptions undergirding discussion of open weights models is that they are cheaper — free, even. After all, you can just download the weights, and skip the time and expense and capabilities necessary to create your own model. That is, of course, true, but the “free” in this case is a reference to the amount you need to spend on research and development; R&D is a fixed expense that is independent of the revenue you generate. […]
The point in terms of open weight models is that they are not free to serve. Kimi K3 costs $3 per million input tokens, and $15 per million output tokens; that is cheaper than Sol’s $5 per million input tokens and $30 per million output tokens, but that might not even be the right measurement.
Die Kosten verschwinden nicht, sie lassen sich aber teilweise aus der Cloud auf bereits verkaufte Hardware verlagern.
Mit intelligentem Routing zwischen unterschiedlichen Modellen haben iPhone-Kund:innen eine solche Rechenleistung bereits gekauft – in Form von Prozessor, Arbeitsspeicher, Speicherplatz und Neural Engine. Nur Strom muss fortlaufend bezahlt werden. Es ist keine kostenlose Intelligenz, sondern eher eine „Prepaid Intelligence“: ein teilweise im Gerätepreis enthaltener „local first, cloud when necessary“-Ansatz.
Offene Modelle verändern die Wettbewerbsbedingungen in einem Markt, den Apple mit seiner Verbindung aus Hardware, Software und Services traditionell erfolgreich besetzt. Die Herausforderung ist die flexible Einbindung leistungsfähiger Modelle in den persönlichen Kontext, ihre Berechtigungen klar zu begrenzen und sie für appübergreifende Funktionen vorzubereiten.
Ironisch: Die vom Digital Markets Act implizierte iOS-Öffnung für konkurrierende KI-Modelle könnte Apples Position im Markt für seine Hardware paradoxerweise stärken – solange iOS die zentrale Orchestrierungsebene bleibt und entscheidet, welches Modell wann, wo und mit welchen Daten zum Einsatz kommt.
Kontrolliert Apple diese Koordinationsschicht jedoch nicht, besteht das Risiko, dass iOS als Betriebssystem austauschbar wird. Allein diese Gefahr würde den Start von Siri AI in der EU dauerhaft verhindern.
Flying Lotus composed a pair of ringtones that have been on iPhones since 2019, the producer revealed yesterday (August 21, 2024), after the news broke via the Twenty Thousand Hertz podcast. “Apple leaked it so I can say it,” the producer wrote on X. “I wrote some ringtones that have been in ur iPhone since ios13.” Those mini-compositions are “Daybreak” and “Chalet,” and you can check them out below.
Jazz Monroe | Pitchfork | Twenty Thousand Hertz (1/2)
Flying Lotus selbst hält Cosmogramma für sein bestes Album; auch Max Richter produzierte bereits Ringtones für Apple.
Die beiden 24-Minuten-Episoden des Twenty-Thousand-Hertz-Podcasts muss man gehört haben!
„Wi-Fi Assist“ war seit iOS 9 der eingeschränkte Versuch den Netzwerkwechsel zwischen Wi-Fi und Mobilfunk zu beschleunigen. „Connectivity Assist“ ist der neue Name für das Feature in iOS 27, das proaktiver den Datenverkehr lenkt und die Mobilfunkverbindung zusätzlich heranzieht, wenn das Wi-Fi schwächelt.
Anstelle von Downloads streame ich Podcasts und Texte, die ich mir vorlesen lasse. Dabei merke ich den stolpernden Netzwerkwechsel beim Verlassen der eigenen vier Wände regelmäßig. Seit iOS 27 gestaltet sich diese Übergabe fast reibungslos. iOS 27 zählt den dabei anfallenden Mobilfunk-Traffic mit.
Anmelden
