Начало > Новини от света на технологиите
AI / ИИ
VITAN:
Китайски учени показаха фотонен AI чип: инференс почти със скоростта на светлината
https://paralell.eu/it/kitajski-ucheni-pokazaha-fotonen-ai-chip-inferens-pochti-sas-skorostta-na-svetlinata/?utm_source=rss&utm_medium=rss&utm_campaign=kitajski-ucheni-pokazaha-fotonen-ai-chip-inferens-pochti-sas-skorostta-na-svetlinata
Китайски учени представиха нов клас AI чипове, които работят със светлина, а не с електрически ток. Вместо електрони, те използват фотони. Така изчисленията се случват почти със скоростта на светлината. Освен това се намаляват латентността и загубите на енергия по пътя. Подобни решения са особено ценни при модели, които изискват масивни паралелни операции.
Фотонен ускорител за инференс, а не универсален заместител на GPU
Проектът е разработен от екипи на Tsinghua University и Shanghai Jiao Tong University. Те са проектирали оптична невронна мрежа, която изпълнява задачи за AI инференс с много висока скорост. В тестове за матрично умножение, ключова операция при генеративните модели, фотонният прототип е показал резултати, описани като над 100 пъти по-бързи от конвенционални електронни процесори. Сравненията включват и висок клас GPU решения на NVIDIA.
Този тип матрични операции са „работният кон“ на трансформър моделите. Те се повтарят милиарди пъти при инференс. Затова всяко ускорение там носи голям ефект. При фотонните схеми изчислението може да се реализира чрез оптична интерференция и фазови елементи. Данните се кодират в светлинни сигнали. След това се измерват в изхода. Така част от смятането се случва „естествено“ в оптиката.
Паралелно със скоростта, изследването отчита и големи печалби в енергийната ефективност. Светлинните изчисления отделят значително по-малко топлина от транзисторните схеми. Това е важно за бъдещите центрове за данни. Там търсенето на мощност расте. В същото време охлаждането вече е голям разход и ограничение. Затова фотонните подходи се разглеждат като път към по-устойчив AI мащаб.
Учените подчертават, че технологията е специфична по задача. Чипът не е създаден да замени GPU навсякъде. Например, той не е насочен към игри или универсални изчисления. Вместо това може да служи като специализиран ускорител. Подходящ е за натоварвания като генериране на изображения, разпознаване на шаблони и инференс при големи езикови модели. На практика решенията често са хибридни. Част от системата остава електронна. Това включва управление и вход-изход.
Макар да е на експериментално ниво и публикуван в рецензирано научно издание, резултатът показва растящ импулс на Китай в пост-силициевите изчисления. Накрая, глобалното търсене на по-бърз и по-ефективен AI хардуер продължава да расте. Това прави подобни прототипи все по-значими.
h2motor:
juliang, много са далеч тези програми от момента в който ще могат да се използват за такива цели - едно поколение..
juliang:
--- Цитат на: h2motor в Декември 23, 2025, 08:30:46 pm ---juliang, много са далеч тези програми от момента в който ще могат да се използват за такива цели - едно поколение..
--- Край на цитат ---
Ти се сети само преди 5 години как ни изглеждаше това, до което сега имаме на практика безплатен достъп.
h2motor:
Няма смисъл да се развива ускорено и чак толкова натоварващо с разходи. Хардуерно е ограничено много, като се наливат пари се блокира пътя на развитие който е с по големи трудности, лесните неща не са хубави. Кой ще си блъска главата да измисли по ефективен хардуер ?
- Както при автомобилите се е получило, има вариант на скоростна кутия който е абсолютен фаворит, безстепенна, надеждна. Колко много боклук е произведен вместо отдавна да е наложен електрическия варатор е всичкия този боклук нямаше да погълне толкова ресурси. Китайския автомобилен сектор е от вчера и също е натоварен с производство на тези недоразумения - класически автоматик, вариатор с метален пластинчат ремък, на кой му трябват ? По добре да няма пари които да се вложат прибързано в недоразумения. Човек как мисли резултативно и бързо - в образи, не чрез езика за комуникация между хората защото скороста е голяма в образи и енергията е много..много по малко. Така че ИИ е грешен първоначално в началото е грешката. Не е въпрос само на оптимизация. Затова тези очаквания са прекалени.
epwpixieq-1:
--- Цитат на: juliang в Декември 23, 2025, 10:29:58 am ---https://eu-mayors.ec.europa.eu/en/news/stockholm-sweden-heat-recovery-data-centres
--- Край на цитат ---
Може винаги да залагаш че скданинавците, стига да имат првилните подбуди, ще мислят как да направят един процес по-ефективен. В този случай обаче, трябва да се мисли не как да се използват изходните продукти от неефективни (вероятностни) изчисления, а да се правят тези вероятностни изчисления по-ефективни. Иначе, виждате ли имам разход на гориво за автомобила от 1300 - 1400 лева на година (90% LPG), 33-35% от този разход ми отива за задвижване на автомобила, останалото директно във топлина във въздуха. Изчислих че ако хвана тази топлина, и някак си я вкарам във къщата, разхода ми за отопление през зимата ще изчезне. Тоест винаги има начини да се използва остатъчната топлина от един процес, въпроса е обаче основния процес да е ефективен (особеено когато се използва електроенергия, понеже тя не е първична, а трансформирана, такава), и след това да се мисли за оптимизиране за използване на разсейваната енергия.
--- Цитат на: h2motor в Декември 24, 2025, 03:41:14 am ---Кой ще си блъска главата да измисли по ефективен хардуер ?
...
Така че ИИ е грешен първоначално в началото е грешката. Не е въпрос само на оптимизация.
--- Край на цитат ---
Сеташните LLM модели (и базираните на тях системи) са далеч от това което хората образно си представят като интелект (та даже и генериран). Въпреки това, на база на сегашните модели, и най-вече на тяхната нестравнима енергиина прахостност, има прокети които разработват принципно нов вид (вероятностен) хардуер:
https://www.youtube.com/watch?v=dRuhl6MLC78
За тези които имат някакво понятие от това което се нарича jitter/джитър при хадуерните истеми (точно затова има нужда от системен clock/електронен часовник), и вероятностния "хаос" които той закодира, точно това тези колеги са впрегнали като решение за намаляване на разхода на енергия ( според данните до 10 000 пъти, забележете не проценти а пъти! ), точно за оптимизиране на хардуера отностно всички сегашни (като LLM), а и бъдещи модели базирани на вероятностни характеристики.
Навигация
[0] Списък на темите
Премини на пълна версия