Лидар превратил iPhone в точнейший измерительный прибор
Появление лидара в iPhone 12 Pro и 12 Pro Max никого особенно не удивило, но вызвало несколько вопросов. Главный – зачем он вообще нужен. Нет, аудитория Apple в большинстве своём оказалась довольно продвинутой и прекрасно понимала, что лидар служит самым разным целям, но зачем он нужен в iPhone, догадаться было довольно непросто. Более того, сама Apple не спешила предлагать каких-то сценариев использования, возложив эту обязанность на разработчиков. Не сказать, что те как-то особенно активно взялись за эксплуатацию нового датчика, но кое-что всё-таки придумали.
Лидар может использоваться в 3D-моделировании, давая минимальную погрешность в измерениях
Исследовать Марс и управлять автомобилем? На что способен лидар в iPhone 12 Pro
Лидар проводит измерения примерно в пять раз точнее, чем обычные камеры, которые устанавливаются в современные смартфоны, в том числе фото-модули самих iPhone. Такой вывод сделали разработчики приложения Canvas для создания трёхмерных моделей помещений. Они сравнили результативность лидара, которым оснащаются iPhone 12 Pro и 12 Pro Max, с ручной рулеткой и строительным дальномером, и пришли к выводу, что датчик смартфона даёт погрешность на уровне 1-2% против примерно 5-6% у обычных камер.
Измерения с помощью iPhone
Если вы используете приложение Canvas на iPhone или iPad с лидаром (им оснащаются почти все устройства линейки Pro, выпущенные в 2020 году и позднее), погрешность в большинстве измерений не будет превышать 1-2%. Это можно проверить при помощи ручной рулетки и лазерного дальномера либо сопоставить с инженерными чертежами. Если вы используете Canvas без 3D-датчика, ваши измерения дадут погрешность в пределах 5%, хоть иногда и встречаются исключения, ошибочность которых может отличаться в большую или меньшую стороны, — рассказали разработчики Canvas.
Благодаря высокой точности сканирования пространства лидар может активно применяться в 3D-моделировании и архитектуре. Опыт разработчиков Canvas это доказывает как нельзя лучше. Приложение задействует дальномер смартфона для определения всех объёмных объектов, перегородок, предметов мебели и т.д., а на основе полученных данных выстраивает трёхмерную модель. Она может пригодиться дизайнерам интерьеров, инженерам или, скажем, мебельщикам, которые делают кровать или шкаф строго под заданные размеры.
Зачем нужен лидар в iPhone
Обратите внимание на то, как хорошо лидар отрабатывает переход от силуэта к фону
Впрочем, и так понятно, что моделирование или что-то похожее – это сфера довольно узкоспециализированная. То есть каждый владелец iPhone 12 Pro явно не будет использовать лидар для этой цели. А вот где будет – так это в фотографии. Благодаря тому что лидар как бы подсвечивает фотографируемый объект, он может использоваться для повышения чёткости портретных снимков, сделанных в условиях недостаточного освещения. Лидар позволяет выделить объект съёмки на общем фоне, даже если его силуэт сливается с окружающей средой.
Посмотрите на фотографию выше. На женщине надето чёрное пальто, а сама она стоит на фоне реки практически при полном отсутствии естественного освещения. Однако для лидара не представляет особых сложностей отделить фотографируемого от фона. Он просто излучает пучок света, тот натыкается на первый попавшийся объект, которым в данном случае является позирующая женщина, формирует трёхмерный силуэт и возвращается назад. Всё это занимает доли секунды, из-за чего складывается впечатление, что никаких дополнительных процессов не происходит. Однако результат из-за этого оказывается куда лучше.
Для чего нужен LiDAR в iPhone и iPad Pro?
В iPad Pro 2020 года впервые появился LiDAR — сканер, измеряющий расстояние до окружающих объектов. Он, начиная с iPhone 12, присутствует в каждой Pro-модели айфона. Где можно применить эту фишку и как она работает?
Что за LiDAR и как он работает?
LiDAR (Light Detection And Ranging) испускает волну инфракрасных точек, измеряя время полёта каждой до ближайшего объекта и обратно. Это позволяет определить размеры пространства. Похожим образом функционирует камера TrueDepth, используемая в Face ID, однако LiDAR способен работать на большем расстоянии (до 5 м). Времяпролётные камеры во многих Android-гаджетах функционируют по схожему принципу, но там применяется один световой импульс, что снижает точность замеров.
Есть ли конкретная польза от LiDAR в iPhone? Конечно. Эта технология применяется во множестве сценариев.
LiDAR для фото
Времяпролётные камеры в смартфонах, как правило, используются для повышения точности и скорости фокусировки. LiDAR делает то же самое. Apple обещает ускорение фокусировки при слабом освещении до шести раз. Определение глубины тоже используется для улучшения качества работы портретного режима в темноте.
LiDAR для измерения расстояний
С появлением сканера заметно улучшилась работа приложения «Рулетка»: теперь оно точнее, быстрее и удобнее. Для этого в интерфейсе предусмотрены вертикальные и боковые направляющие. Специальный режим, обнаруживая в видоискателе человека, тут же измеряет его рост. Как утверждают обзорщики, точность «Рулетки» в некоторых ситуациях соответствует реальности, хотя чаще имеется небольшая погрешность. Впрочем, использовать приложение в профессиональном строительстве всё же не стоит.
LiDAR для приложений и гейминга
Преимущества датчика хорошо раскрываются в сторонних утилитах. Например, бесплатный Canvas: Pocket 3D Room Scanner позволяет сканировать помещение, чтобы получить 3D-проекцию и рассматривать её с любой точки. Snapchat открыл документацию по созданию линз с использованием LiDAR, а приложение IKEA Place помогает размещать виртуальные элементы интерьера из каталога магазина в квартире пользователя.
Возможность точного нанесения виртуальных объектов на реальные пригодится и на сайте Apple: для некоторых продуктов доступно их изучение в дополненной реальности. Так можно узнать, как будет смотреться iMac на рабочем столе.
А вы пользуетесь фишками LiDAR?
Как использовать LiDAR: нашли 10 бесплатных программ для iPhone 12 Pro и iPad Pro
LiDAR установлен в iPhone 12 Pro и 12 Pro Max, а также в iPad Pro. Он сканирует пространство и определяет очертания объектов в поле зрения.
В новых смартфонах, к примеру, именно благодаря ему портретный режим работает вместе с ночным, а в приложении «Рулетка» появляются новые фишки.
Сканер окружения повышает точность взаимодействия с дополненной реальностью и открывает массу дополнительных возможностей. Чтобы раскрыть их на 100%, разработчики массово взялись за новый софт. Мы собрали первые интересные программы в App Store, которые заточены под использование LiDAR.
Обратите внимание: некоторые из приложений в подборке без LiDAR вообще не работают, а другие ограничивают набор своих возможностей.
1. «Рулетка» — быстрое измерение человеческого роста
В стандарте приложение «Рулетка» должно быть установлено на iPhone 12 Pro. Тем не менее, если вы удаляли его на предыдущем смартфоне и использовали восстановление данных для перехода на новый, велика вероятность, что его снова придется загружать из App Store. Благо, это бесплатно.
«Рулетка» определяет размеры объектов с помощью дополненной реальности. Если запустить ее на iPhone 12 Pro и навести видоискатель на человека, приложение тут же покажет его рост. Причем, оно должно справиться с этой задачей, даже если испытуемый сидит.
Остальные возможности программы можно попробовать на любых других смартфонах: рост также получится измерить на них, но лишь вручную.
2. RoomScan LiDAR — создание поэтажных планов дома
Разработчики RoomScan LiDAR утверждают, что новый сенсор Apple идеально подходит для сканирования домов и создания поэтажных планов. Именно поэтому они переработали свой инструмент для работы с дополненной реальностью специально под iPhone 12 Pro, а также актуальную линейку iPad Pro.
Чтобы ускорить процесс сканирование помещений, разработчики RoomScan LiDAR также подключили движок Metal и решили максимально задействовать чипсеты Apple A12z Bionic и Apple A14 Bionic. Результат удивляет: вы можете создать подробный план дома в 3D и спланировать его ремонт.
Создатели приложения отдельно подчеркивают, что технологии, которые они используют в данном приложении, подкреплены патентом соответствующего Бюро США.
? Скачать RoomScan LiDAR (бесплатно + покупки)
3. magicplan — планирование ремонта и документация
Еще одно приложение, которое заточено под дизайнеров интерьера и владельцев недвижимости, озадаченных ремонтными работами. Оно также сканирует пространство для создания поэтажных планов помещения. Тем не менее, предлагает больше инструментов для перенесениях их из трех измерений в два.
Разработчики настаивают, что с помощью их приложения работа в полевых условиях упрощается. Речь про создание черновых планов помещения на месте, чего от дизайнера часто требуют заказчики. С iPhone 12 Pro или iPad Pro и LiDAR это можно сделать быстро — для этого же получится использовать отдельные лазерные дальномеры.
Функциональный набор приложения, кроме прочего, также включает работу со сметной и другой документацией, которая точно пригодится подрядчику.
? Скачать magicplan (бесплатно + покупки)
4. LiDAR Scanner 3D — быстрый сканер пространства
Это приложение, которое заточено под работу с iPhone 12 Pro и iPad Pro, представляет собой максимально быстрый 3D-сканер. С помощью него можно практически моментально превратить стену своего дома в трехмерную модель и сохранить полученный результат в форматах USDZ, OBJ, STL, PLY.
Отсканированные модели не содержат цветов и предназначены для дальнейшего использования в приложениях для работы с трехмерной графикой на компьютере или мобильных устройствах. По идее, это должно ощутимо сократить потраченное время на создание объектов с нуля.
Без LiDAR это приложение, увы, не работает. Поэтому его есть смысл устанавливать только на iPhone 12 Pro и iPad Pro.
? Скачать LiDAR Scanner 3D (бесплатно + покупки)
5. Heges 3D Scanner — определение объектов через LiDAR и Face ID
Еще одно приложение от предыдущего разработчика, которое может использовать не только LiDAR, но и Face ID. Собственно, поэтому его получится использовать не только на iPhone 12 Pro и iPad Pro, но также на iPhone X, XS, XR, 11, 11 Pro. Готовые «картинки» оно умеет сохранять в форматах STL и PLY.
Кроме прочего, оно также поддерживает возможность шаринга экрана. Это нужно для того, чтобы использовать фронтальную «батарею» камер True Depth, превратив в видоискатель любой другой девайс. Да, с LiDAR весь процесс значительно упрощается, но он пока доступен на ограниченном числе гаджетов.
Кстати, бесплатно с приложением можно только познакомиться. Чтобы активировать запись объекта, эту возможность придется оплатить.
? Скачать Heges 3D Scanner (бесплатно + покупки)
6. 3d Scanner App — сканирование объектов в 3D
Еще один сканер для объектов, который переносит их в трехмерное визуальное пространство и дает возможность использовать в форматах USDZ, OBJ, GLTF, GLB, DAE, STL. Их получится перенести в место, смоделированное на любом другом устройстве.
Описанные выше форматы можно добавить в Blender, 3dsMax, SketchUp, Maya и другой подходящий софт для трехмерного моделирования. Важной особенностью приложения является возможность сохранения размеров объектов, которые определяются при сканировании.
Приложение можно использовать абсолютно бесплатно без каких-либо ограничений.
7. AR COPY & PASTE — копирование и вставка трехмерных объектов
Данное приложение предназначено для копирования и вставки трехмерных объектов на iPhone 12 Pro и iPad Pro с помощью LiDAR. Ни на каких других гаджетах, по понятным причинам, оно полноценно не функционирует — можете даже не пробовать.
Собственно, суть программы проста: отсканировать объект и сохранить его или скопировать в другое пространство через дополненную реальность.
8. Hello How Low — видео с дополненной реальностью
Любопытный способ разнообразить свои видеоролики с помощью эффектов, завязанных на дополненной реальности. С помощью LiDAR приложение определяет очертания человека или другого главного объекта и дает возможность вставлять его на любой интересный фон. Получается неординарный результат.
С помощью встроенным покупок в приложении можно значительно расширить список встроенных фильтров.
? Скачать Hello How Low (бесплатно + покупки)
9. Record3D — ролики с дополненной реальностью
Еще одно любопытное приложение для создания роликов с использованием дополненной реальности. Оно сканирует объект с помощью Face ID или LiDAR и дает возможность использовать его в видеозаписях. Результат получается сюрреалистическим, но вполне интересным.
Отдельного внимания заслуживает возможность сохранения полученных изображений в формате RGBD для их дальнейшего использования в другом поддерживаемом софте.
Для того, чтобы бесплатно протестировать LiDAR в iPhone 12 Pro или iPad Pro, приложение предлагает три видеозаписи. В дальнейшем его придется приобрести.
? Скачать Record3D (бесплатно + покупки)
10. CyberWave — музыкальная визуализация через LiDAR
Без LiDAR данное приложение не работает. С помощью него же оно может создавать визуализацию музыкальных композиций в окружающем пространстве. Достаточно лишь включить программу и активировать воспроизведение любимых треков. Окружающий мир тут же начнет меняться через экран мобильного устройства.
Главное ограничение приложения: оно работает только с музыкой, которая не оснащена через DRM. Поэтому, увы, Apple Music в пролете.
? Скачать CyberWave (бесплатно + покупки)
? Используй лидар и держи свой айфон в красивом чехле:
▪️ Слева пластиковый Guess — 2 990 руб.
▪️ В центре кевларовый Pitaka — 5 990 руб.
▪️ Справа силиконовый Apple — 4 990 руб.
Технология будущего. Зачем нужен LiDAR, который появился в iPad Pro
Судя по анализу железа нового iPad Pro, его главная особенность – это новый датчик расстояния LiDAR.
Apple говорит, что NASA отправит с ним людей на Марс, а многие думают, что это прокачанный Face ID. Но многие пока не понимают, как его будут использовать разработчики.
Мы разобрались, в каких индустриях лидар используют прямо сейчас, чем его датчик отличается от чёлки в iPhone, и кому на самом деле нужна эта новая версия планшета.
Спойлер: произошла революция.
Как работает обычный лидар
По принципу работы радар и лидар отличаются только в источнике энергии, которым они измеряют величины. В первом это радио-волны, во втором лазер. Чаще всего инфракрасный, невидимый человеком.
Название LiDAR идёт от аббревиатуры light detection and ranging, на русском как «обнаружение и определение дальности через свет»
Простейшая система работы такая:
- 1. Излучатель бьёт лазером со скоростью света
2. Ресивер получает его обратно
3. Компьютер рассчитывает время возвращения луча
4. Формируется информация о расстоянии до объекта
Скорость света – величина неизменная, она всегда одинакова. Считывая разницу в скорости возвращения луча, можно составить глубинную 3D-карту местности, улицы или комнаты. Масштаб и точность такой карты зависит от размера датчиков, количества лучей, их яркости и множества других факторов.
Например, вот здесь можно пощупать информацию, которая получается на выходе сенсора для автомобилей OS1 от компании OUSTER.
NASA составила огромный список того, что умеют лидеры разного типа.
В зависимости от размера и точности сенсора, можно получить следующие данные:
Излучатели отличаются размерами, мощностью, типом лучей, их количеством, статичностью и многим другим. Их цепляют на спутники, самолёты, дроны и автомобили.
Учитывая, сколько материала можно собрать и обработать, становится понятно, что лидар может быть полезен в десятке разных областей. Пройдёмся по некоторым.
Технологию применяют в автопилотах, космосе и земледелии
С помощью сенсора можно предположить, какую область зальёт при наводнении
Все сканеры работают за счёт лучей, но площадь покрытия зависит от их количества. Это может был один лазер, который сканирует плотность газа, или полоса, которая формирует карту глубины двухмерной территории, как на примере выше.
В третьем виде излучатель бьёт квадратным полем, как это сделано в iPad Pro, и формирует объёмный отпечаток помещения, здания, метеорита и так далее.
Самоуправляемые машины выглядят самым очевидным применением для LiDAR. Почти каждая компания внедряет их по несколько штук за раз в свои проекты.
С другой стороны, Элон Маск год назад агрессивно противился им и сказал, что распознавание объектов эффективнее. Директор ИИ в Tesla Андрей Карпати считает лидар ненадёжным “костылём” по той же причине.
Анализ биосферы проводят датчиками повсеместно. У NASA есть список миссий с отчётами по ним. В них исследуют состояние озонового слоя, ищут связь выбросов и климата и изучают экосистему. Для последнего иногда даже задействуют спутники.
Но в основном в самолёты или дроны встраивают лазеры с приёмником, которые как валик с краской накрывают территорию под собой. А учёные на базе этих данных строят карты материалов и грунта.
Агрикультура и городское планирование занимают первое место по применению LiDAR. Анализ земли и воздуха помогает выбрать места для плодородных полей – такие, чтобы избежать оползней и загрязнённого воздуха.
LiDAR не умеет делать то, что может Face ID. И наоборот
Разобрались, что LiDAR стреляет лазером из дронов, самолётов и спутников. В iPad Pro это работает по тому же принципу, но на “минималках”.
В iPad Pro стоит не один луч, а 1152 штук в шахматном порядке.
Расчёт сделал так. Судя по изображению в обзоре, айпэд выпускает лазеры в 9 секторов. В каждом по 8 точек на ряд, который дублируется по диагонали. Получаем 8*8*2*9=1152.
Лучи крупнее в диаметре и намного дальше друг от друга, чем в Face ID. Из-за этого планшет технически не сможет составить точную карту глубины, потому что не считывает волосы и даже крупные детали, например уши.
Вот почему портретного режима в нём нет.
Зато у LiDAR шире покрытие. В отличие от Face ID, работает это приблизительно так:
- 1. Излучатель бьёт дальше крупными точками
2. «Приёмник» их ловит
3. Процессор A12Z собирает из отметок полигоны
4. Из полигонов под разными углами составляется карта
Точный сенсор айпэда нужен везде. Развлечениям и образованию особенно
Пока система стоит в сравнительно непопулярном устройстве, ей мало кто будет пользоваться. Вот только парк AR-устройств уже огромный, компания зря время не теряли.
Всё те же люди продолжат использовать AR-приложения, просто чаще. Раньше текстуры прыгали друг на друга, а положение объектов неудачно отслеживалось.
- 1. Студенты и профессоры с приложением по анатомии
2. Дизайнеры квартир с быстрым составлением плана
3. Ритейлеры, вроде IKEA, которые удобно покажут свои товары
4. Музеи смогут рендерить в AR скульптуры, а не только картины
Это та часть, которая хоть как-то активна в дополненной реальности. Скорее всего, теперь к ней увереннее подключатся спорт и бьюти-сфера.
Apple такая же технологичная компания, как и все остальные. Бывает, что инновации не заходят в массы, как это было с 3D Touch, и их постепенно выпилывают. Но мне кажется, что LiDAR за следующие десятилетие взлетит до ключевой технологии.
В ближайшие годы сканер рискует стать стандартом из-за AR
Если у вас iPhone 7 или новее, откройте сайт Apple и активируйте режим дополненной реальности, например с iPad или MacBook Pro.
Этот опыт будет идеальным, чтобы люди начали включать игры и приложения не на один раз рад интереса, а пользовались ими постоянно.
А там и до звонков по FaceTime в стиле Звёздных Войн недалеко. Взгляните, к примеру, научились заменять на искусственный в iOS 13.
Дополненная реальность уже здесь, и у неё нет финала
То, что раньше было неудачным Kinect для XBOX, переродилось в киллер-фичу iOS
Пока я искал информацию для материала, заметил одну вещь. Большинство заголовков о развитии лидаров вышли в последние два года, и в основном в 2019-м. Видно, что индустрия плотно развивается, в ней около десятка конкурентов, и впереди много лет прогресса.
Бесконечные маски в Инстаграме, перебрасывающие сразу на сайт QR-метки, грядущие уведомления об опасных контактах от коллаборации Apple | Google.
В общем, реальности смешиваются и, как это бывает с прогрессом, незаметно для его участников. LiDAR может станет ступенью для осязания всего процесса.
Ходит много слухов о том, что грядущие iPhone 12 Pro тоже оснастят таким сенсором. С учётом потенциала и места для улучшения технологии, легко верю в то, что Apple лучше нас понимает важность лидара, а для использования AR сканер станет критичным параметром.
Как использовать сканер LiDAR в iPhone 12 Pro
У вас есть сканер LiDAR, если у вас есть iPhone 12 Pro, iPhone 12 Pro Max или iPad Pro, но Apple, похоже, не дает вам возможности его использовать. Вот как это сделать, что вам нужно и почему LiDAR так полезен.
LiDAR является частью iPhone 12 Pro, iPhone 12 Pro Max и iPad Pro, но вас простят за то, что вы этого не заметили. Apple почти не упоминает об этом, и на телефоне нет приложения LiDAR, которое можно было бы попробовать.
Учитывая, что одно из его основных применений — фотография, вы ожидаете каких-то элементов управления LiDAR в приложении камеры или, по крайней мере, чего-то в настройках. Но нет ни того, ни другого.
Также мало стимулов искать такие элементы управления, потому что, пока вы не увидите их в действии, трудно понять, что LiDAR может для вас сделать. Технология сканирует вашу среду, создавая ее трехмерное изображение, и это изменит качество работы AR и VR.
На данный момент Apple, похоже, рада позволить LiDAR тонко помочь вам тем, как он дополняет существующие приложения и функции.
Как вы уже используете LiDAR
Если вы ранее отказались от использования приложения Apple Measure, попробуйте еще раз. Приложению теперь помогает LiDAR, и это заметно улучшило его.
Теперь можно быстрее начать использовать Measure, потому что он быстрее распознает окружающую среду. А поскольку LiDAR работает для сканирования всей окружающей среды, измерения, которые вы выполняете, более точны.
Это теория, а на практике вы обнаружите, что Measure более полезен, чем раньше. Вместо приложения, которое вы использовали для грубых измерений, когда у вас не было рулетки, теперь оно достаточно хорошее и быстрое, чтобы использовать его где угодно.
Далее, хотя это и сложнее увидеть, LiDAR также ускорил работу автофокуса вашей камеры. Опять же, это потому, что LiDAR отображает окружающую среду вокруг вас, поэтому он начинает вычислять, насколько далеко или близко находится объект, когда вы нажимаете кнопку, чтобы сделать снимок.
Однако, если измерения и автофокус — единственные заметные варианты использования LiDAR от Apple, уже существуют сторонние приложения, которые будут делать гораздо больше. Их очень много, и большинство из них похоже на эксперименты по выяснению того, что возможно.
Но в целом они также, как правило, хороши в одном из двух. Либо они отлично справляются со съемкой трехмерного изображения вашего окружения, похожего на фотографию, либо лучше снимают изображение объекта.
Это баланс между достаточно медленным сканированием, чтобы избежать размытия, и достаточно быстрым, чтобы закончить, пока приложение все еще может хранить данные.
Захват всей вашей среды
Используйте Canvas: Pocket 3D Room Scanner для iPhone — бесплатно в магазине приложений iOS — и вы можете сканировать свое окружение. Встаньте посреди комнаты, коснитесь элементов управления, похожих на измерения, а затем медленно развернитесь.
То, что вы видите на экране холста, похоже на голодек из «Звездного пути». Рядом с камерой, видимой прямо перед вами, есть сетка. Когда вы поворачиваетесь, сетка заполняется изображением вашего окружения.
Двигайтесь слишком быстро, и получаемое изображение будет недостаточно детализированным. Если двигаться слишком медленно, приложению может не хватить памяти до того, как вы завершите сканирование. Так что это компромисс между деталями и полнотой, но он дает вам 360-градусное изображение вашей комнаты.
Прямо здесь, на iPhone, вы можете уменьшить масштаб, чтобы увидеть изоморфную проекцию комнаты, повернуть ее жестом и увеличить, чтобы увидеть ее под любым углом. Проведите пальцем по экрану, чтобы показать комнату крупным планом на весь экран, и затем вы можете провести пальцем по экрану, чтобы передвигаться, или физически переместить телефон.
Физическое перемещение телефона показывает, как выглядит захваченное окружение, когда вы поворачиваетесь. Но вам не обязательно находиться в той же среде, в которой вы запечатлели.
Вместо этого вы можете взять свой телефон и изучить сканированное изображение в любом другом месте. Встаньте, например, в поле и посмотрите на свой офис на экране iPhone. Двигайтесь по полю, и экран будет выглядеть так, как будто вы перемещаетесь по офису.
Нет сомнений — в будущем полицейские собираются делать снимки мест преступлений с помощью LiDAR. Это только вопрос времени, когда такое сканирование даст решающую улику в эпизоде «Морской полиции».