Diskusija par Apple un tā nākamo lielo lēcienu mākslīgā intelekta jomā kļūst arvien karstāka, un termins AppleLLM jau rada viļņus Cupertino zālēs. Starp ticamām noplūdēm, Apple Intelligence atklājumiem un Siri pilnīgā metamorfozē, viss norāda uz to, ka Apple paša valodas modelis ir tuvāk nekā jebkad agrāk realitātei un kļūšanai par galveno tās stratēģijas sastāvdaļu.
Papildus troksnim uzkrājas tehniskie dati, lēmumi par produktiem un pat akadēmiska kritika, radot sarežģītu ainu. Apple atver savu platformu izstrādātājiem, sola pārbaudāmu privātumu un pēta trešo pušu partnerības., vienlaikus atzīstot izaicinājuma grūtības: pašreizējie tiesību zinātņu speciālisti paklūp, kad uzdevumi kļūst sarežģītāki, un neaizstāj labi izstrādātus klasiskos algoritmus.
AppleLLM: Ko mēs zinām un kāpēc tas notiek tagad
Saskaņā ar Marka Gurmana citētajiem Bloomberg avotiem, Apple jau iekšēji testē savā asistentā integrētu LLM, darbiniekiem sniedzot tiešas atsauksmes komandai. Šis darbs atbilst Ajax projektam un sarunvalodā sauktajam AppleGPT., ceļš, kas ļautu Siri novērtē vaicājumus un atvasināt tos uz otru modeli, ja to prasa sarežģītība.
Šo noplūžu ierosinātajā ceļvedī ir iezīmēti divi skaidri atskaites punkti: atjaunota Siri pašreizējā sistēmu paaudzē un ambiciozāka nākamā iterācija. Vispirms mēs redzēsim Siri, kas saprot kontekstu un pieprasījumu ķēdes bez muļķīgām restartēšanas iespējām, kas spēj nolasīt ziņojumus vai e-pastus, lai iegūtu noderīgus datus ar lokālu atļauju; vēlāk tiks izlaista versija, kas iekļautu pašu LLM kā sarunu mugurkaulu.
Gurmans nākamo lielo lēcienu paredz ap 2026. gada pavasari, saskaņā ar iOS 19 ierašanos, ja nebūs pēdējā brīža izmaiņu. Tā nebūtu pirmā reize, kad Apple WWDC prezentē savu vīziju un dažus mēnešus vēlāk to īsteno., kā tas jau bija ar Siri, kas tika izziņots 2024. gadā un atlikts tālākai pilnveidošanai.
Apple Intelligence Today: arhitektūra, izmērs un specializācija
AppleLLM attīstoties, uzņēmums jau izmanto Apple Intelligence kā modeļu kopumu, kas vērsts uz ikdienas uzdevumiem. Ierīcē ir aptuveni 3.000 miljardu parametru modelis un lielāks modelis mākonī., kas darbojas uz Apple Silicon serveriem, kurus darbina atjaunojamā enerģija. Ideja ir aptvert lielāko daļu pieprasījumu ierīcē un mērogot uz privāto mākoni, kad slodze to prasa.
Apple apgalvo, ka apmācībai tas izmantoja AXLearn, savu atvērtā pirmkoda mašīnmācīšanās sistēmu kopš 2023. gada, ar licencētiem datiem un publisku saturu, ko apkopojis AppleBot. Uzņēmums uzstāj, ka neizmanto privātus lietotāju datus, piemēro PII filtrus un atmet troksni un dublikātus., piedāvājot arī mehānismu, ar kura palīdzību redaktori var pieprasīt izslēgšanu.
Optimizācijā lokālais modelis izmanto 49 100 tokenu vārdu krājumu, bet servera modelis palielina to līdz XNUMX XNUMX, samazinot atmiņu, lai samazinātu latentumu. Uzmanības centrā ir speciālisti: adapteri rakstīšanai, apkopošanai, prāta vētrai, klasifikācijai, slēgtai un atvērtai kvalitātes nodrošināšanai, programmēšanai, ieguvei, matemātiskajai spriešanai, drošībai un pārrakstīšanai., Starp citiem.
Apple izvēlētajos etalonos, piemēram, IFEval (izpildiet norādījumus), tā modeļi atbilst vai pārspēj līdzīga izmēra konkurentus un pat salīdzinājumā ar GPT‑4 Turbo un Mistral 8x22B servera pusē konkrētiem uzdevumiem. Pat ja tā, Apple atzīst, ka tā pieeja ir ļoti fokusēta un pašlaik nelepojas ar pilnīgu multimodalitāti: ir pieejams teksts un balss, bet ne video, kā tas ir citos nozares piedāvājumos.
Privātums pēc konstrukcijas: privātās mākoņdatošanas skaidrojums
Kad ierīce vairs nevar tikt galā, tiek izmantota Apple privātā mākoņa platforma Private Cloud Compute. Tas sola pilnīgu šifrēšanu, īslaicīgu apstrādi un nekorelējamus nejaušus identifikatorus., ar ārēju auditu un bez īpašām privilēģijām darbiniekiem.
Uzņēmums nodrošina, ka dati tiek izmantoti tikai lietotāja pieprasītajam mērķim un nav redzami iekšējam personālam. Turklāt drošības labad tas atsakās no trešo pušu komponentiem un ierobežo diagnostikas telemetriju. līdz augsta privātuma iespējām. Tas viss, izmantojot savas mikroshēmas verificētos centros un publiski uzsverot pētnieku pārbaudāmību.
Siri: no pašreizējām grūtībām līdz versijai, kas tiecas pēc vairāk
Siri, kas jau parādās pašreizējās sistēmu paaudzēs, sola labāk izprast kontekstu un komandu secības. Beidzot varēsiet apvienot vienkāršus pieprasījumus, nezaudējot saikni, un darboties kā īsts palīgs lokālo personas datu jomā.ziņojumi, e-pasts, notikumi, vienmēr lietotāja kontrolē.
Tomēr pastāv viena nepilnība, ko Apple novērš: vaicājumiem, kas pārsniedz šo slieksni, Siri varēs izsaukt ChatGPT ar skaidru atļauju. Integrācija katru reizi respektēs piekrišanu, slēps IP adresi un neprasīs jaunu kontu.Apple uzsver, ka šī pieredze pārkāpj tās privātuma politiku tikai ar lietotāja apstiprinājumu.
Durvis nav slēgtas citiem spēlētājiem: Kreigs Federigi ir atstājis atvērtu iespēju nākotnē integrēt arī Google Gemini vai citus pakalpojumu sniedzējus. Tas piedāvā elastību tādiem tirgiem kā Ķīna vai scenārijiem, kuros ChatGPT nav pieejams., vidējā termiņā neatsakoties no sava modeļa.
WWDC un atklāšana: Apple nevēlas sadarboties ar mākslīgo intelektu vienatnē
Pirms WWDC Apple gatavo svarīgu soli: atverot savu mākslīgo intelektu kā starpekosistēmu platformu. Rīkkopa Iepriekš tas bija paredzēts iekšējām komandām, tagad tas tiks nodots izstrādātāju rokās., ar piekļuvi viegliem modeļiem, kas spēj darboties lokāli, vienlaikus ievērojot privātumu.
Paralēle ar App Store ir acīmredzama: kad trešās puses varēja radīt pieredzi, iPhone kļuva par platformu. Tagadējais mērķis ir neļaut izstrādātājiem pāriet uz trešo pušu modeļiem un atvieglot viņiem vietējo viedās pieredzes veidošanu. ar Apple Foundation Models, tostarp bezmaksas secinājumiem un bezsaistes iespējām.
Mērķi ietver latiņas paaugstināšanu, lai tā atbilstu konkurentiem, mācīšanos no reālās pasaules atsauksmēm un produkta izstrādes paātrināšanu. Tiek apsvērta pat trešo pušu modeļu, piemēram, Claude, izmantošana asistentam Swift., kas uzsver Apple vēlmi būt pragmatiskam savā izstrādātāju rīku komplektā.
Drīzumā pieejamas funkcijas: no tiešraides tulkošanas līdz vizuālajai inteliģencei
Apple Intelligence nav tikai dūmi un spoguļi: tā jau parādās noteiktās funkcijās operētājsistēmās iOS, iPadOS un macOS. Tiešraides tulkošana nodrošina reāllaika tulkošanu balss un video zvanos., integrējoties ar Messages, FaceTime un Phone, ko atbalsta vietējie modeļi.
Image Playground attīsta savu izstrādātāja API un integrāciju ar ChatGPT ar atļauju, savukārt Genmoji to atļauj veidojiet kombinācijas un aprakstus, lai izteiktu sevi ar niansēmBurvju nūjiņa ar pāris pieskārieniem pārvērš skices attēlos.
Produktivitātes ziņā atgādinājumi nosaka atbilstošas darbības, lasot e-pastu vai piezīmi, un automātiski kārtot pēc kategorijām. Ziņojumi iesaka izveidot aptaujas, kad tas ir piemērotiMail pievieno uzlabotu priekšskatījumu, un Focus Mode uzlabo pārtraukumu pārvaldību.
Pienāk arī prioritārie paziņojumi, dabiskās valodas meklēšana un iespēja ģenerēt atmiņu video lietotnē Fotoattēli ar vienkāršu aprakstu. Apple Watch ierīcē Treniņu draugs Izmanto sirdsdarbības ātrumu, tempu, distanci, gredzenus un atskaites punktus personalizētai motivācijai reāllaikā; sākotnēji pieejams angļu valodā un treniņiem uz skrejceliņa vai velosipēda.
Vizuālā inteliģence pievieno jūsu ekrānam kontekstuālas superspējas: iemūžiniet produktu, kas jums patīk, un pasūtiet līdzīgus produktus ar cenu un funkcijām; Pārveidojiet koncerta plakātu par kalendāra notikumu ar vienu pieskārienu; vai arī acumirklī iegūt datus no atrašanās vietas, pieskaroties kamerai vai darbības pogai.
Pamati veidotājiem: pamatu modeļi un ceļš uz mērogošanu
Izstrādātājiem Foundation Models būs oficiālā iespēja Apple modeļu pievienošanai trešo pušu lietotnēm. Preferenciāla piekļuve tām pašām tiesību zinātņu maģistrālēm (LLM), ko izmanto Apple Intelligence, integrēta privātuma aizsardzība un izpilde bezsaistē ja iespējams, ar mākslīgā intelekta secinājumiem bez ekspluatācijas izmaksām.
Stratēģija pārliecina divos aspektos: piedāvājot vietējās un privātās iespējas salīdzinājumā ar ārējām alternatīvām, un pateicoties ekosistēmas atjautībai, palielināt Apple Intelligence sasniedzamībuApple izstrādātāju programmas beta versija pašlaik ir sākusies, un rudenī sekos publiska beta versija, kas tiks ieviesta atbalstītajās ierīcēs.
Nopietna LLM paradigmas kritika: sarežģītības siena
Paralēli produkta stāstam Apple ir publicējis pētījumu, kas izraisa debates: kvantificējot spriešanas spējas, ir novērots, ka tiesību zinātņu speciālisti (LLM) sabrukums, pārsniedzot noteiktu sarežģītības slieksnipat ja ir daudz skaitļošanas resursu.
Kritika saskan ar vairāku līdzautoru iepriekšējiem darbiem kopš 2023. gada: Uzticamus aģentus nevar izveidot bez formālas un abstraktas spriešanas pietiekami attīstīti. Saskaņā ar šīm analīzēm lielie modeļi nedomā kā cilvēki; viņi var domāt vairāk… bet līdz noteiktai robežai.
Hanojas tornis ir spilgts piemērs. Tā ir klasiska problēma, kas ir triviāla algoritmam un paveicama pacietīgam bērnam, bet Mūsdienu modeļi, piemēram, Claude, iestrēgst ar 7 diskiem un praktiski neizdodas ar 8.Pat jaunākie varianti, piemēram, o3-min ar augstu devu, šajos testos būtiski neuzlabojas.
Vēl šokējošāk: lai gan ir sniegts pakāpenisks uzdevuma risināšanas algoritms, modeļi mēdz darboties sliktiLīdzautors Imans Mirzadehs norāda, ka novērotais nelīdzinās loģiskam procesam vai intelekta formai, jo izpilde nav izpratne.
Darbā tiek ņemta vērā un pastiprināta arī Subbarao Kambhampati kritika par domu ķēdēm un tā sauktajiem spriešanas modeļiem. CoTs dažreiz neatspoguļo modeļa faktisko darbību, un, ja tie šķiet pareizi, galīgā atbilde var nebūt pareiza.Tiek apšaubīta arī secinājumu laika aprēķināšanas metode kā strukturāls saīsinājums.
Operatīvais secinājums ir skarbs: tiesību maģistranti mēdz pārāk daudz domāt par vienkāršām lietām un mēģināt atrast nepareizas atbildes pat pēc tam, kad ir atraduši pareizo, un Viņi mazāk domā, saskaroties ar grūtībām, no vienas puses, izšķērdējot aprēķinus, un, no otras puses, priekšlaicīgi pametot darbu.
Vispārināšana un vecās mācības: iekšējā un ārējā izplatīšana
Šī domu gaita saskan ar ilgstošo neironu tīklu kritiku: tie pieņemami vispārina. apmācības sadalījuma ietvaros, bet sabrūk ārpus tāViens no līdzautoriem to jau dokumentēja 1998. gadā, izmantojot daudzslāņu perceptronus teikumu aprēķināšanai un prognozēšanai.
Šī tēma tika paplašināta 2001. gadā žurnālā “The Algebraic Mind”, 1999. gadā žurnālā “Science” publicētā rakstā, kurā Tika pierādīts, ka septiņus mēnešus veci zīdaiņi ekstrapolē modeļus, ko tā laika tīkli neatkārtoja., 2018. gadā — sadaļā “Dziļā mācīšanās: kritiskais novērtējums” un 2022. gadā — sadaļā “Dziļā mācīšanās sastopas ar grūtībām”. Šo trajektoriju tagad apstiprina jauni dati.
Ir arī atzīts, ka parastiem cilvēkiem Hanojas tornī neizdodas iegūt astoņus diskus. Bet lieta tāda, ka mēs izgudrojām datorus, lai uzticami risinātu problēmas, ar kurām mēs cīnāmies.Saprātīgas mākslīgā intelekta (AGI) mērķis būtu apvienot cilvēka pielāgošanās spējas ar mašīnu uzticamību, nevis mantot abu pasauļu sliktāko.
Praktiskais spriedums: LLM neaizstāj labus tradicionālos algoritmus.Tie nespēlē šahu kā klasiskie dzinēji, ne arī saliek olbaltumvielas kā specializētas neirosimboliskās sistēmas, kā arī nepārvalda datubāzes kā inženierizēti dzinēji. Tie ir labi koda rakstīšanai... bet periodiski.
Apple vīzija: mazāk halucināciju un atbildības
Brīfingos Džons Džanandrea un Kreigs Federigi aizstāvēja Apple pieeju halucināciju mazināšanai, ko atbalsta atlasīti dati un treniņu riteņi. Viņi saka, ka ir ieguldījuši enerģiju treniņos, rūpīgi strādājot un atbildīgi pielietojot tehnoloģijas., pamatojoties uz iekšējo testēšanu, pievēršoties noderīgiem un mazāk kaitīgiem modeļiem nekā alternatīvām.
Runājot par sadarbību ar OpenAI, Apple to raksturo kā kontrolētu izeju trešajām personām, kad lietotājs to pieprasa. Vienmēr ar atļauju, ar slēptu IP adresi un bez pieprasījumu saglabāšanas pakalpojumu sniedzējs, replicējot privāto mākoņdatošanu, garantē pēc iespējas lielāku efektivitāti.
Baumas, iekšējā spriedze un stratēģija
Gurmana hronikas ataino iekšēju berzi starp programmatūras un mākslīgā intelekta līderiem un konservatīvākas investīcijas GPU nekā vēlams. Tiek runāts par samazinātu aparatūras pieprasījumu un 3B modeļiem lokāli un desmitiem miljardu modeļu mākonī., joprojām tālu no jaunākās paaudzes, ko pēta citi dalībnieki.
Stratēģiskais lasījums ir tāds, ka Apple rīkojas piesardzīgi, prioritāri piešķirot privātumam un pieredzes kontrolei, vienlaikus paļaujoties uz selektīvām partnerībām, lai aizpildītu nepilnības. Daži ChatGPT integrāciju interpretē kā ielāpu, citi – kā pragmatisku pāreju. lai nonāktu pie sava, spējīgāka modeļa.
Tirgū ir liels spiediens: iPhone pārdošanas apjomi palēninās, un konkurence strauji attīstās. Apple uztur milzīgu instalēto bāzi un apskaužamu aparatūras un programmatūras integrāciju; ja jūs paātrināsiet mākslīgo intelektu, jūs varat pārvērst šo pamatu atjaunotā konkurences priekšrocībā.
Ko tas nozīmē uzņēmumiem un izstrādātājiem
Morāle tiem, kas veido risinājumus, ir skaidra: nepietiek tikai ar vispārēja modeļa ieviešanu un noturības sagaidīšanu. LLM ir ierobežojumi un tie neaizstāj pārbaudītus algoritmus kritiskos uzdevumos.Bet tie var tuvināt un paātrināt prototipu veidošanu, prāta vētru un rakstīšanu, īpaši, ja tos kombinē ar ārējiem simboliskiem blokiem.
Izmantojot Foundation Models un izpildi ierīcē, Apple piedāvā interesantu veidu, kā savā platformā organizēt privātu un kontekstuālu pieredzi. Papildus privātajai mākoņdatošanas sistēmai un papildu trešo pušu integrācijai, dēlis tiek atvērts, lai izveidotu vertikālus vedņus, kontekstuālas darbplūsmas un ģeneratīvus lietotāja interfeisus uzticamos ietvaros.
Organizācijām vadlīnija būtu apvienot labāko no abām pasaulēm: tradicionālie algoritmi, kur precizitāte ir vissvarīgākā, un specializētie tiesību matemātikas (LLM), kur elastība ir vissvarīgākāUn rūpīgi uzraugiet spriešanas, verifikācijas un izsekojamības robežas, īpaši regulētās jomās.
Ņemot vērā visu šo kontekstu, AppleLLM nešķiet kā vienkārša ķeksīša aizpildīšana, bet gan kā elements, kas var noslēgt cilpu starp patiesi kompetentu Siri, starpplatformu mākslīgā intelekta platformu un pārbaudāmu privātuma stratēģiju; Ja Apple rīkosies ar tai raksturīgo stingrību, tās paša modelis varētu būt trūkstošais grūdiens, lai tā ekosistēma veiktu kvalitatīvo lēcienu, kas līdz šim tai nav izdevies..
