Ruimtelijk geluid opnemen met ARKit & door virtuele 3D-golfvormen bewegen

Codekunstenaar Zach Lieberman heeft het nieuwe ARKit-raamwerk van Apple in iOS 11 gebruikt om een ​​trippy proof-of-concept ruimtelijke audio-app te bouwen die kan worden gebruikt om geluid in augmented reality op te nemen en af ​​te spelen door letterlijk virtuele 3D-golfvormen te doorlopen.

Hier is een korte video die dit in actie laat zien (zorg ervoor dat je het geluid aanzet)

Snelle test om geluid in de ruimte op te nemen en af ​​te spelen door er doorheen te bewegen (video heeft audio!) #Openframeworks pic.twitter.com/GdZcK3rj1L

- zach lieberman (@zachlieberman) 6 september 2017

Hij bouwde het met behulp van ARKit en OpenFrameworks, een open source C ++ toolkit voor creatieve codering.

Ik kan het gebruik hiervan in musea zien als een interactieve kunstinstallatie van soort: stel je voor het opnemen van muzikale composities op deze manier met noten en ritmes die ruimtelijke patronen bezetten die mensen kunnen afspelen door door 3D-golfvormen te bewegen.

Je zou zelfs een installatie of een speciale fitnesstrack kunnen opzetten waar mensen door een cursus konden joggen om vooraf opgenomen muziek te spelen. Of wat dacht je van een speurtocht in augmented reality waar je overal in het huis aanwijzingen moet vinden?

De mogelijkheden zijn eindeloos - als je ruimtelijke audio kunt maken met ARKit, is het geen eind om verbeeldingsvolle realiteitswoorden, tweets, emoji, zwevende muziekbladen en dergelijke voor te stellen.

Hier zijn meer demo's van Zach die laten zien hoe ARKit objectpunten in realtime detecteert.

Snelle test voor het animeren van de puntenwolkgegevens pic.twitter.com/34mQvuKXNd

- zach lieberman (@zachlieberman) 1 september 2017

Nog een pic.twitter.com/5RSFSzSg5N

- zach lieberman (@zachlieberman) 31 augustus 2017

Het is cool om naar de functiepunten te kijken en het model te zien dat het bouwt (thx @xavitribo) pic.twitter.com/8rqObs8seI

- zach lieberman (@zachlieberman) 31 augustus 2017

De demo van Zach doet denken aan de serie Light Barrier van studio Kimchi en Chips, een project dat volumetrische tekeningen in de lucht maakt met behulp van honderden gekalibreerde videoprojecties. Zoals aangetoond in de onderstaande video, voegen deze lichtprojecties samen in een veld van mist om grafische objecten te maken die animeren door de fysieke ruimte zoals ze in de tijd doen.

Eerder vandaag lieten we u de ultieme meet-app zien van ontwikkelaar Rinat Khanov, genaamd MeasureKit, waarmee u zo ongeveer alles kunt meten, zoals iemands lengte, afstand tot objecten, hoek tussen twee punten en meer - door uw iPhone op objecten te richten.

Wat vind je van deze nieuwe ARKit-demo's?