Најбоље ствари у животу не скалирајте

Највеће техничке речи у технологији неће успети јер се једноставно не мењају.

Док брзо напредујемо са новом технологијом, морамо имати на уму да ли су наше иновације практичне и изводљиве. У свету у којем бројимо кориснике у хиљадама, а време извођења у милисекундама, важније је него икад осигурати нове технолошке скале.

То је разлог зашто је шокантно да три највеће технолошке речи у потпуности не успевају.

Наравно, говорим о три категорије у које наизглед свака техничка вест данас спада:

  1. Вештачка интелигенција
  2. Блоцкцхаин
  3. Мешана стварност (КСР, АР / ВР)

Чини се да готово све користи или додаје ове, а ипак је сулудо колико је болно (и потпуно немогуће) скалирати ове услуге.

Треба нам више хардвера

Први и најважнији недостатак остаје хардвер. Није тајна да се захтеви за хардвером за технологију из године у годину експоненцијално повећавају, и у цени и у спецификацијама. Ово заправо постаје блокирајући фактор широког прихватања, а у случају блоцкцхаина-а, то је убица.

Блоцкцхаин се обично ослања на „рударе“ који „мине“ блокаде и омогућавају мрежи да извршава најосновније задатке (тј. Верификацију трансакција). Процес "рударјења" је нешто што нећу дубоко улазити, али укључује извршавање великих криптографских функција, процес познат као "распршивање".

Проблем са хешингом је у томе што му је потребна значајна количина рачунске снаге; у ствари, за тако велику количину која ефикасно руда на блоцкцхаину потребан је посебан хардвер, било ГПУ, било АСИЦ. Да бисте били најмањи рудар, требаће вам високи спектар ГПУ-а (будимо стварни, Интел ХД Грапхицс је тренутно потрошачки стандард, у основи сваки ГПУ који је изнад високог спектра) или посвећени АСИЦ. Ово кошта прилично велики рачун, а већина уређаја кошта стотине до хиљаде долара по јединици, не рачунајући високу потрошњу електричне енергије која се сматра оперативним трошковима.

велики недостатак ГПУ-а за 2018. годину

Ово се показало као значајан, блокирајући фактор у усвајању блоцкцхаина. У ствари, управо из тог разлога, цене ГПУ-а су нагло скочиле, а залихе су готово нестале, остављајући потенцијалне рударе без икаквих алата, рушивши индустрију игара на ПЦ-у и спречавајући истраживаче да добију приступ врхунском хардверу. Чак су и произвођачи ГПУ-а попут Нвидије који су профитирали од пораста у коначници говорили о озбиљној несташици као директном узроку блоцкцхаина.

Годину дана касније, већина ових блоцкцхаин технологија је нестала, а цене главних крипто валута срушиле су се на четвртину њихове вредности. Најчешћа брига за блоцкцхаин је његов неуспех да се скалира, а хардвер остаје (и даље ће бити) блокирајући фактор у скалирању блоцкцхаин технологије.

Међутим, ово питање није ограничено на блоцкцхаин. Вештачка интелигенција се ослања на исти хардвер (ГПУ), и то постаје фактор блокирања и у том пољу; већина надолазећих стартупа не може себи да приушти изградњу огромне фарме ГПУ-а попут Гоогле-а, а куповина рачунарске снаге од пружатеља услуга у облаку попут АВС-а долази по 4к порасту цене који повећава огроман рачун на серверу.

Са КСР-ом је ово питање још теже. Да би покренули та искуства, потрошачи морају да приказују визуелне приказе, а потрошачки уређај мора да обради сензорни унос. То углавном оптерећује потрошаче, што звучи сјајно за предузећа која желе да уђу у простор КСР, али узрокују велики проблем са скалирањем.

На пример, узмимо Оцулус ВР. Оцулус је био један од првих ВР слушалица који се лансирао и остало је популарно име на том пољу, које је од тада стекао Фацебоок и учврстио своје место на тржишту.

Смешно висок „минимални спец“ за Оцулус; УСБ 3.0, добар Нвидиа ГПУ, 8ГБ РАМ-а…

Нажалост, Оцулус готово искључиво ради на десктоп рачунарима, штовише захтева високе ГПУ спецификације. Суочава се с истим замкама као што су блоцкцхаин и АИ, али с много већим проблемима: док би АИ посао могао само бацити новац на њихову инфраструктуру да привремено ријеши проблем, а КСР терет пада на потрошаче. Циклус усвајања АР / ВР ослања се на потрошачке ГПУ-е да постану шири и већи спецификација, као и да чекају да цене падну на нивое који су приступачни просечном кориснику. То је процес који би потенцијално могао потрајати деценијама - док директор Нвидиа Јенсен Хуанг изјављује да Моореов закон фаворизује ГПУ-ове, време потребно за довољан развој потребан за подизање спецификација, а снижавање цена и даље износи неколико година.

За три највеће технолошке речи, то је проклета реченица.

Рунтиме

Када говоримо о времену извршења у рачунању, углавном мислимо у милисекундама, јер су корисници порасли да очекују тренутне интеракције.

Нажалост, код свих три горе наведене технологије то уопште није случај.

Уз блоцкцхаин, рударство једног блока траје дуже и дуже како време пролази. Дошли смо до тачке када појединцима више није исплативо рударити велике криптовалуте, а руднички базени су почели да позивају пуцњеве по мрежи. За „децентрализовану“ технологију погодује јако пуно централизације.

Такође се пише о пропасти за највећи (случај) потенцијални случај примене: крипто валуте. Крипто валута успева у брзим трансакцијама, без централизованих власти, прекограничних граница и без великих накнада.

Међутим, са неуспехом блок-ланца за скалирање и временом (временом = електричном енергијом) потребним за рудање блока, накнаде повезане са трансакцијама порасле су на рекордно високе; на свом врхунцу, Битцоин је достигао тачку у којој су накнаде повезане са већином малих трансакција веће од стварних трансакционих трошкова, што га чини крајње бескорисним и тоталним неуспехом за свакодневне потрошаче. Трансакције су почеле да трају сатима, а регулација због бекства, растуће цене Битцоина отежавала је пребацивање Битцоина преко границе.

Крипто валута је постала све што је обећала да ће уништити.

Са вештачком интелигенцијом, поставља се сасвим другачије питање. Време закључивања за многе моделе великих размера траје неколико секунди, што звучи као мало времена, али почиње да се повећава и постаје блокирајућа фигура када се расправља о корисничким базама у хиљадама.

Штавише, бројке цитиране за време закључивања на већини модела су шкакљиве - морате да читате између редака, тачније до следећег ретка који обично гласи „као што је пронађено у нашем КСИЗ ГПУ скупу“, у коме „КСИЗ ГПУ стацк“ кошта неколико хиљада долара и мора се у потпуности посветити том једином закључку.

Гоогле-ов ТПУ сноп који се често користи за обуку њихових модела

Овде се, наравно, ради истраживање, али истраживање које се спроводи готово се у потпуности фокусира на време обуке, за шта бих рекао да није превише важно. За обуку, недеља није велика ствар - сваки стартуп може да уштеди недељу дана да би обучио модел који ће постати камен темељац њиховог посла.

Већи проблем лежи у закључку. На основном нивоу, обука захтева закључак - закључак се обично наводи као „напред“ фаза мреже, а то се мора догодити у тренингу пре него што се изведе позадина. Међутим, у тренингу су сви подаци о којима је потребно закључити доступни на почетку.

Другим речима, читава се серија може обрадити одједном (тј. 100 слика истовремено), због скалирања математике - умножавање веће матрице неколико матрица је ефикасније од множења неколико матрица 1 матрице (другим речима , то је ефикасније да урадите више одједном). То сеже до одређене тачке, слично као и идеја о смањењу приноса у економији, али остаје да нам заједничка обука омогућава скалирање закључака на великим количинама података.

Нажалост, у практичном смислу серијална обрада је ретко.

Ретко је да модел мора изводити закључке на 200 слика одједном; већа је вероватноћа да се 200 слика пошаље на закључак у, рецимо, минуту. Биће тешко уско грло у закључку времена по слици; чак и време закључивања, трећина секунде (што је сулудо брзо - то су времена која се хвале најбржим моделима, попут Гмаил-овог супер оптимизованог модела предвиђања реченица), резултираће да ће се само 180 слика обрадити по минуту. Чак и при малом оптерећењу од 200 / мин, модел не успева, а за процену растућег заостатка друга инстанца се мора родити у равнотежи.

Тешка је таблета за гутање у свету у коме се дају велике количине терета; у ствари, Ноде-ов Екпресс је доспео под ватру јер је подржао само пар хиљада веза у секунди, слично популарним НоСКЛ базама података који се критикују због тога што имају уско грло при неколико хиљада трансакција у секунди.

брана која је загарантована да ће се распрснути

То је фигура нечувена у свету АИ, која наилази на тешко грло брзином од неколико стотина у секунди у виду засебних закључака на појединачној инстанци модела, чак и уз најсавременије оптимизације које можете да направите.

Код КСР-а постоји врло, веома другачији проблем. Питање је урањање - за урањање и избегавање небеске долине, интеракције се морају одвијати, а појава се мора прилагодити брже него што људи могу да перципирају. Другим речима, неколико стотина милисекунди није довољно брзо.

Помоћу КСР-а меримо ствари у малим количинама милисекунди. Меримо прихватљиву латенцију испод ~ 20мс (цифра са којом се многи играчи не би сложили, будући да је 100+ фпс и испод десет пинга уобичајена за већину тактова).

То је фигура која остаје уско грло и она је коју нисмо ни близу; док се КСР технологија интензивно фокусира на ово и остварени су бројни помаци у овом пољу у смислу редовног сензорног уноса и исказивања, и даље се суочавамо са проблемима у погледу интеракције; тачно, КСР отвара потпуно нови, бесконачни низ могућности за интеракцију које већина мотора не може брзо да обради.

АРЦореов мотор за проширене слике представљен на Гоогле И / О 2018

Штавише, да бисте покренули увећавање слике било што сложенијим од хомографије, кашњење је превисоко да би се већином искустава могло сматрати „прихватљивим“. Најбржи који смо досад тестирали су Гоогле-ове АРЦоре Аугментед Имагес, које користе хомографије (ту је и приказ Аугментед Фацес који је мало спорији и има приметно кашњење / заостајање).

АРЦоре демонстрација лица

То је велики проблем

Само у последње две године, број напретка у ове три области је непремостив.

У АИ, видели смо како генерација природних језика напредује са ГПТ-2, који је стекао своју репутацију Имагенет НЛП-а. Отвара се нови свет могућности обраде текста. Такође смо видели како се развијају конволуционарне мреже и ГАН-ови како прихватају 4к слике и улазимо у еру у којој АИ може опонашати ХД слике и генерисати садржај који људском оку делује вероватно.

Са блоцкцхаином, поље је постало мање замућено, а неколико новчаних грабежи је изумрло и омогућило више простора за излагање са постојећим платформама. Стеам је значајно порастао у последњих годину дана, заједно са Стеллар-ом и употребом блоцкцхаина у уобичајеној технологији. ЈПМорган, БофА и Фацебоок најавили су да свој блоцкцхаин и примењени блоцкцхаин бележи успон са платформама попут ДЛивеа које су почеле да иду у ток (ДЛиве је недавно успоставио партнерство са највећом личношћу Иоутубе-а са својом првом платформом за творце).

У КСР-у смо видели да КСР и АР на нивоу телефона постају стварност са многим побољшањима АРЦоре-а. Постаје могуће интегрисати АИ у КСР и развијати искуства која омогућавају одређени ниво људске интеракције (још увек нисмо у физичком додиру, али постоје пројекти који омогућавају другу интеракцију, као што је Фиддлер АР).

То су све области које имају велики, значајан утицај на будућност технологије и где људска цивилизација иде у целини. Ово су технологије које не утичу на економију; они га редефинишу; не утичу на друштво и интеракцију; они га оживљавају. Омогућује ремонт наше читаве културе, а на коријенском нивоу то се зове још једна индустријска револуција.

За покрет који има тако велики утицај на широку јавност, од виталног је значаја и најважније да може да распореди јавност са лакоћом. Док се ово не спроведе, оно спречава усвајање и формира тешко препреку уласку у смислу иновација изван великих корпорација.

Надам се да ћу видети више иновација у скалирању ових технологија. На Епиц.аи смо фокусирани на развој апликација које се у великој мери ослањају на АИ и блоцкцхаин - сви смо превише упознати са ограничењима скалирања; то је проблем на којем ћемо интензивно радити током наредних неколико година, а проблем за који се надамо да ће индустрија заједнички решити.

Хеј! Ја сам Томер, предузетник и произвођач. Можда ме познајете из Мевее, Цране и Схотс, Слидес-а и сада инвесторинтеллигенце.ио између осталих производа које сам лансирао! Овај чланак је део опсежније серије коју пишем углавном на основу својих искустава и углавном је састављен од мене и мог тима.

Надам се да ће вам ово помоћи да избегнете праве грешке као и ја, и сетите се да наставите са испоруком!

Молимо пљескајте ако сте сматрали ово вриједним и слиједите ме за више писања попут овог док дијелим приче о томе како развој софтвера и предузетништво изгледа у стварном животу.

Ова прича објављена је у највећој подузетничкој публикацији Тхе Стартуп, коју прати +442,678 људи.

Претплатите се да бисте добили наше врхунске приче овде.