/ Rezervovať demo
Technológia

Gaussian splatting vysvetlený.

Zrozumiteľný sprievodca technológiou, na ktorej stojí Splatoo — čo to je, čím sa líši od starších 3D metód a prečo vďaka nej môžu byť reálne miesta preskúmateľné na akejkoľvek obrazovke.

Čo to je

Gaussian splatting zachytáva reálne miesto v 3D ako milióny drobných, mäkkých bodov svetla — nie ploché polygóny.

Každý bod je „splat“: pozícia v priestore, farba, mäkkosť, ktorá určuje, ako sa stráca na okrajoch, miera priehľadnosti a tvar — dokáže sa natiahnuť a nakloniť tak, aby sa prispôsobil povrchu, na ktorom leží. Samostatný splat je len rozmazaná škvrna. Ale poskladajte ich niekoľko miliónov a pôvodná scéna sa objaví späť, s reálnou hĺbkou, jemným detailom a presne takým svetlom a atmosférou, aké malo miesto v čase zachytenia.

Pod kapotou ide o radiance field (pole žiarenia) — model toho, ako svetlo opúšťa každý bod scény v každom smere. Prvé radiance fieldy (NeRF) ukrývali túto informáciu vnútri neurónovej siete a museli dopočítavať každý pixel osobitne. Gaussian splatting ju ukladá otvorene, priamo ako splaty samotné. Pri vykresľovaní netreba nič dopočítavať, takže kreslí rýchlo — dosť rýchlo na to, aby ste sa mohli plynulo pohybovať v prehliadači, na telefóne, bez nutnosti inštalovať aplikáciu.

Splat nesie päť vecí: pozíciu, farbu (ktorá sa môže meniť podľa uhla pohľadu), priehľadnosť, veľkosť a orientáciu. Práve táto posledná dvojica — schopnosť naťahovať sa a otáčať — je presne dôvod, prečo si splatting udrží mäkký, odrazový aj jemný detail, ktorý polygónové siete zahodia.

Ako to funguje

Pozoruhodné je, že nič nemodelujete ručne. Priestor odfotíte alebo natočíte a optimalizátor ho za vás zrekonštruuje.

  1. Zachytenie

    Prejdite priestorom s kamerou alebo aj s telefónom a zachyťte ho z mnohých prekrývajúcich sa uhlov. Pre miestnosť často stačí pár stoviek záberov; väčšie priestory jednoducho potrebujú viac pokrytia.

  2. Určenie pozícií kamery

    Softvér typu structure-from-motion analyzuje zábery, zistí, odkiaľ bola každá fotka odfotená, a položí hrubé počiatočné mračno bodov, z ktorého sa dá stavať.

  3. Optimalizácia splatov

    Každý bod sa stane 3D Gaussianom. Systém vykreslí scénu, porovná ju so skutočnými fotkami a upraví pozíciu, farbu, veľkosť a priehľadnosť každého splatu tak, aby sa rozdiel zmenšil — milióny drobných korekcií, opakovaných dovtedy, kým sa render nedá takmer odlíšiť od fotografií. Popritom pridáva splaty tam, kde je scéna ešte rozmazaná, a odstraňuje tie, ktoré si svoje miesto nezaslúžia.

  4. Vykresľovanie v reálnom čase

    Pri kreslení snímky sa splaty premietnu na obrazovku, zoradia podľa hĺbky a poskladajú spredu dozadu. Pri zobrazovaní nebeží žiadna neurónová sieť — a práve to je dôvod, prečo dosahuje plynulé framerate v reálnom čase na bežnom hardvéri.

Trénovanie trvá minúty, nie hodiny, ktoré potrebovali staršie neurónové metódy. A keďže výsledok je explicitný — doslovná množina splatov, nie čierna skrinka siete — scénu možno presúvať, prefarbovať, orezávať alebo kombinovať s inými. Práve na tejto upraviteľnosti staviame.

Čím sa líši

Každý predchádzajúci spôsob zachytenia reality niečo obetuje. Gaussian splatting je prvý, ktorý si drží fotorealistickú kvalitu a zároveň rýchlosť v reálnom čase.

Fotogrametria
Vytvára texturovanú polygónovú sieť. Presná pre tvrdé povrchy, ale ťažká — a mäkký, odrazový alebo jemný detail ako lístie a vlasy má tendenciu sa rozpadať.
NeRF
Ohromná kvalita z neurónovej siete, no historicky pomalá na trénovanie a príliš náročná na vykresľovanie v reálnom čase, najmä v prehliadači.
Gaussian splatting
Fotorealistický ako NeRF, trénuje sa v minútach, vykresľuje sa v reálnom čase a zostáva dostatočne ľahký na to, aby bežal na otvorenom webe.

Zároveň prekonáva dva staršie skratky. Surové LiDAR a point-cloud skeny zachytávajú presnú geometriu, no bez skutočného osvetlenia pôsobia ploché a neživé. Obyčajné video vyzerá reálne, no diváka drží na jednej pevnej trase. Splatting dáva oboje naraz — vzhľad videa so slobodou pohybovať sa kdekoľvek vnútri neho.

V skratke: je to prvá metóda, ktorá vyzerá ako skutočné miesto a zároveň funguje kdekoľvek.

Silné stránky a limity

Oplatí sa byť úprimný v tom, kde technika dnes exceluje a kde ešte dozrieva.

Silné v

  • Bohaté statické priestory — interiéry, architektúra, krajina, jednotlivé objekty
  • Mäkký a jemný detail — lístie, textílie, vlasy, dym
  • Svetlo závislé od uhla pohľadu — lesk, jas a jemné odrazy
  • Rýchle zachytenie a okamžité prezeranie bez aplikácie na akomkoľvek zariadení

Ešte dozrieva

  • Pohybujúce sa subjekty — ľudia a doprava sa najlepšie zachytávajú, keď je priestor prázdny
  • Veľmi rozsiahle scény — tie potrebujú streaming a kompresiu, aby zostali odľahčené
  • Presné úpravy a preosvetlenie — rýchlo sa zlepšujú, no zatiaľ nie sú na jedno kliknutie
  • Zrkadlá a sklo — skutočné odrazy dokážu zmiasť akúkoľvek metódu zachytenia

Väčšina z toho patrí medzi aktívne a rýchlo napredujúce výskumné oblasti — a viacero z nich je presne tam, kde naša pipeline zachytávania a Unrealu dopĺňa chýbajúce kúsky.

Prečo na tom záleží

Render niekomu ukáže, ako by priestor mohol vyzerať. Sken mu umožní postaviť sa priamo do toho, čím priestor naozaj je. V tom je celý rozdiel: ľudia sa rozhodujú rýchlejšie, viac dôverujú tomu, čo vidia, a skutočne si zapamätajú miesto, ktorým prešli, nie len také, na ktoré len letmo pozreli.

Pre firmu sa to premení na menej zbytočných obhliadok na mieste, kratšie predajné cykly a jediný asset, ktorý funguje na webe, na obchodnom hovore aj na obrazovke priamo na mieste. Jedno zachytenie, mnoho miest, kde môže žiť.

A už to nie je experiment. Realitné platformy začali dávať kupujúcim splatové prehliadky, technika si našla cestu do veľkej filmovej a vizuálno-efektovej produkcie a aplikácie na zachytávanie ju vkladajú do bežných rúk. Odvetvie to nazýva „JPEG moment pre priestorové výpočty“ — bod, v ktorom 3D zachytenie prestáva byť novinkou a stáva sa bežným.

Kam to smeruje

Oblasť sa vyvíja nezvyčajne rýchlo. Pre ďalší vývoj sú najdôležitejšie štyri smery:

  • Kompresia — scény sa zmenšujú z gigabajtov smerom k megabajtom, takže sa celý priestor načíta ako webová stránka.
  • Dynamické „4D“ zachytenie — nahrávanie priestoru tak, ako sa mení v čase, nielen ako zmrazený okamih.
  • Preosvetlenie — vloženie zachyteného priestoru do nového osvetlenia alebo jeho zosúladenie s novým prostredím.
  • Zachytenie priamo na zariadení — premena telefónu na celé štúdio, od skenu až po zdieľateľnú scénu.

Smer je jasný: priestorové zachytenie sa stáva rovnako bežné ako odfotenie fotky — a rovnako ľahko sa dá zdieľať. Pre tento svet staviame Splatoo.

Čo s tým robíme my

Surový sken je krásny, ale pasívny. Splatoo z neho vytvorí niečo, čo môžu ľudia využívať.

Zachytíme miesto, vyčistíme ho a potom naň navrstvíme navigačný systém — body záujmu, trasy, služby a obsah — takže priestor nie je len na pozeranie, ale aj na prechádzanie. Vďaka našej Unreal pipeline vieme priniesť aj objekty a scény, ktoré fyzicky ešte neexistujú, takže realita je východiskový bod, nie hranica. Hotový zážitok sa publikuje priamo na web aj na kiosky na mieste a ticho reportuje, ako sa návštevníci naozaj pohybujú.

Jedno zachytenie sa stáva prezentáciou, predajným nástrojom, sprievodcom aj kontaktným bodom — všetko naraz.

Vidieť naživo

Živá scéna · 1,2 M bodov · WebGL

Čítanie o tom má svoje limity. Otvorte si skutočnú prehliadku v archíve ukážok a prejdite si zachytený priestor sami — ťahajte bodmi, prepínajte scény a vyskúšajte, aké to je v prehliadači.

Zdroje a ďalšie čítanie

Vysvetlenie vyššie vychádza z týchto primárnych výskumných a spravodajských zdrojov.

  1. Kerbl, Kopanas, Leimkühler & Drettakis — "3D Gaussian Splatting for Real-Time Radiance Field Rendering." ACM Transactions on Graphics (SIGGRAPH 2023) — práca, ktorá techniku predstavila. Stránka projektu · Referenčný kód
  2. Inria — "Creating stunning real-time 3D scenes: the breakthrough of 3D Gaussian Splatting." Zrozumiteľný prehľad od laboratória, ktoré metódu vytvorilo. inria.fr
  3. Mildenhall et al. — "NeRF: Representing Scenes as Neural Radiance Fields for View Synthesis." ECCV 2020 — práca o neurónových radiance fieldoch, na ktorej splatting stavia a ktorú zrýchľuje. Stránka projektu · arXiv
  4. Schönberger & Frahm — "Structure-from-Motion Revisited" (COLMAP). CVPR 2016 — krok určenia pozícií kamery a mračna bodov, ktorý pripraví pôdu pre zachytenie. colmap.github.io
  5. Gaussian splatting — overview. Priebežne aktualizovaný prehľad tejto oblasti, jej variantov a rozšírenia. Wikipedia
  6. "Gaussian Splatting and the Infrastructure for Spatial Computing." Analýza odvetvia stojaca za rámcom „JPEG moment pre priestorové výpočty“. fov.ventures
Presvedčte sa sami

Chcete mať svoj priestor zachytený takto?

Naskenujeme ho, navrstvíme naň obsah a odovzdáme vám prehliadku, ktorá funguje kdekoľvek.