Новая клавиатура от Apple избавит нас от мыши


Оптическое отслеживание движений рук
Технология, описанная в патенте, относится к классу систем компьютерного зрения, работающих в ближней зоне. Четыре камеры, расположенные по периметру клавиатуры, формируют стереопары, что позволяет вычислять положение объектов в трёхмерном пространстве методом триангуляции. Камеры фиксируют отражённый от рук инфракрасный или видимый свет, после чего программное обеспечение строит карту глубины и распознаёт жесты.
Принципиальная сложность подобных систем — отделение полезного сигнала от фона. Руки пользователя находятся в непосредственной близости от клавиш, и алгоритмам необходимо отличать намеренные жесты от случайных движений при печати. Для этого вводится явное переключение режимов: в режиме ввода текста камеры отключены или игнорируют перемещения, а в режиме управления курсором активируется трекинг заданных точек — например, кончиков пальцев.
Похожие подходы к бесконтактному управлению существовали и до 2010 года. В исследовательских проектах применялись массивы микрофонов для ультразвуковой локации пальцев и датчики приближения на основе ёмкостного поля. Оптический метод с несколькими камерами выигрывает в точности, но требует значительных вычислительных ресурсов для обработки видеопотоков в реальном времени и чувствителен к условиям освещения.


