Mtcnn

Я работаю педагогом в детском технопарке Кванториум. В период самоизоляции мы так же, как и все перешли на дистанционное обучение. И в связи с тем, что дети стали еще больше времени проводить за компьютером, администрация решила сократить академический час и делать перерывы между работой (что бы сохранить зрение). Мы написали приложение, которое подсчитывает время, проведенное за компьютером, ведет статистику в excel (полезно для родителей) и выдает звуковое оповещение о том, что пора сделать перерыв.

Приложение будем полезно тем, кто теряется во времени работая за пк и хочет вогнать себя во временные рамки или следить за тем, какая часть жизни теряется в цифровом пространстве.

Ссылка на репозиторий

Под катом подробный разбор.

Для создания программы нужно решить следующие задачи:

• детекция лица через web камеру (используем mtcnn);
• подсчёт времени (библиотека time)
• запись данных в excel документ (библиотека openpyxl);
• звуковое оповещение;
• автозагрузка скрипта при включении ПК.

Детекция лица с использованием web камеры

Мы рассматривали вариант отслеживать присутствие за компьютером по движению компьютерной мыши, возможно это проще и web камера останется свободной, но тогда мы не сможем учитывать просмотр сериалов или youtube роликов, к тому же использовать распознавание лиц гораздо интереснее.

Для детекции лица используем архитектуру mtcnn. Голова, расположенная под любым углом, в очках, при плохом освещении, даже если лицо не полностью попадает в кадр или прикрыто рукой, нейронная сеть работает исправно. Самостоятельно собирать ее не станем, подключим библиотеку с одноименным названием, которая решит нашу задачу используя несколько строчек кода.

Изначально использовали метод Виолы-Джонса. Точность намного хуже, чем у mtcnn, процессор загружает также.





Вывод результата вынесем в отдельную функцию, она нужна только для того, чтобы посмотреть, как работает распознавание.

import cv2import osfrom mtcnn.mtcnn import MTCNNdef show_face_frame():    if faces:        bounding_box = faces[0]['box']        keypoints = faces[0]['keypoints']        cv2.rectangle(img,                      (bounding_box[0], bounding_box[1]),                      (bounding_box[0] + bounding_box[2],                       bounding_box[1] + bounding_box[3]),                      (0, 0, 255),                      2)        cv2.circle(img, (keypoints['left_eye']), 3, (0, 0, 255), 2)        cv2.circle(img, (keypoints['right_eye']), 2, (0, 0, 255), 2)        cv2.circle(img, (keypoints['nose']), 3, (0, 0, 255), 2)        cv2.circle(img, (keypoints['mouth_left']), 3, (0, 0, 255), 2)        cv2.circle(img, (keypoints['mouth_right']), 3, (0, 0, 255), 2)    cv2.imshow('frame', img)cap = cv2.VideoCapture(0)detector = MTCNN()while cap.isOpened():        _, img = cap.read()        img = cv2.cvtColor(img, cv2.COLOR_BGR2RGB)        faces = detector.detect_faces(img)        show_face_frame()        cv2.waitKey(300)cap.release()cv2.destroyAllWindows()

Большая задержка cv2.waitKey(300), чтобы не загружать процессор. Обработка 3-4 кадров в секунду загружают i3-8145U в среднем на 15%.

Подсчет времени

Программа не должна делать записи в журнал в следующих случаях:

• сел за компьютер на 5 сек что-то по бырику сделать;
• вышел налить кофе или размять ноги.

Для решения этих задач в программе используется два секундомера time_here (отсчитывает время, когда лицо в кадре) и time_not_here (когда лица нет). Оба секундомера сбрасываются, когда производиться запись в журнал. К тому же time_not_here сбрасывается каждый раз, когда лицо появляется в кадре.

В переменной min_time_here указано минимальное время, проведенное за компьютером, после которого стоит делать запись в журнал. Запись будет произведена после того, как человек отвлечётся от компьютера на время большее чем указано в min_time_not_here.

В коде ниже запись осуществляется, если провел минимум 5 минут за компьютером. Программа не будет учитывать то, что я отвлекаюсь меньше чем на 2 минуты.

import cv2import timeimport osfrom mtcnn.mtcnn import MTCNNcap = cv2.VideoCapture(0)path = os.path.abspath(__file__)[:-11]  # из абсолютного пути удаляем имя файлаhere, not_here = 0, 0  # секундомерыtime_here, time_not_here = 0, 0  # количество времениswitch = True  # переключатель определяет есть лицо в кадре или нетmin_time_here = 300  # минимально время проведенное за пк, после которого производится запись (в секундах) min_time_not_here = 120  # максимальное время отвлечение от компьютера которое не учитывается программой (в секундах)detector = MTCNN()try:    while cap.isOpened():        _, img = cap.read()        img = cv2.cvtColor(img, cv2.COLOR_BGR2RGB)        faces = detector.detect_faces(img)       show_face_frame()       audio_message(path, here)        if faces and switch:            not_here = 0            switch = False            if here == 0:                here = time.time()                print('вы сели за компьютер в ' + time.strftime("%H:%M:%S", time.localtime(here)))        elif not faces and not switch:            not_here = time.time()            switch = True        if not_here != 0:            time_not_here = time.time() - not_here        if here != 0 and not switch:            time_here = time.time() - here        if time_here > min_time_here and time_not_here > min_time_not_here:  # делаем запись если провели за ПК больше min_time_here            write_excel(path, here)            print('вы провели за компьютером ' + time.strftime('%H:%M:%S', time.gmtime(time.time() - here)))            time_here, time_not_here = 0, 0            here, not_here = 0, 0        elif time_not_here > min_time_not_here and  time_here < min_time_here:  # если за ПК провели меньше min_time_here, то ничего не записываем            print('запись не произведена')            time_here, time_not_here = 0, 0            here, not_here = 0, 0        cv2.waitKey(300)except KeyboardInterrupt:    if time_here > min_time_here:  # делаем запись если провели за ПК больше min_time_here        write_excel(path, here)    cap.release()    cv2.destroyAllWindows()

Если пользователь хочет выключить компьютер, для начала нужно прервать работу программы (ctrl+c) и время текущей работы попадет в журнал. Для этого используется обработчик исключений.

Запись данных в excel документ

Для работы с excel поможет замечательная библиотека openpyxl, которая одновременно считывать и записывать данные.

Каждый день программа создает новый лист с текущей датой.


На 1 листе записывается посуточная информация, в какой день сколько времени провели за компьютером.



Функция write_excel открывает документ записывает данные и сразу же закрывает.

Нельзя изменить документ через openpyxl если он уже открыт пользователем. На этот случай добавлено исключение.

def write_excel(path_excel, time_start):    wb = openpyxl.load_workbook(path_excel + r'\dnevnik.xlsx')    today = time.strftime("%d.%m.%Y", time.localtime(time.time()))    if today not in wb.sheetnames:  # если листа с сегодняшней датой еще не существует, то создаем его        wb.create_sheet(title=today)        sheet = wb[today]        sheet.column_dimensions['A'].width = 20        sheet.column_dimensions['B'].width = 20        sheet.column_dimensions['C'].width = 20        sheet.column_dimensions['D'].width = 31        sheet['A1'] = 'Начал работать за ПК'        sheet['B1'] = 'Время работы за ПК'        sheet['C1'] = 'Закончил работать'        sheet['D1'] = 'Сел за компьютер:'        sheet['D2'] = 'Всего провели за ПК времени:'        sheet = wb[today]        row = 2        all_time = 0    else:  # если лист уже создан извлекаем информацию        sheet = wb[today]        row = sheet['E1'].value  # номер строки в excel документе        all_time = sheet['E2'].value  # общее время проведенное за ПК за один день        all_time = all_time.split(':')        all_time = int(all_time[0]) * 3600 + int(all_time[1]) * 60 + int(all_time[2])  # время переводим в секунды        row = row + 2  # плюсуем шапку таблицы и новую строку    sheet['A' + str(row)] = time.strftime("%H:%M:%S", time.localtime(time_start))  # записываем время когда сели за пк    sheet['C' + str(row)] = time.strftime("%H:%M:%S", time.localtime(time.time()))  # когда вышли из за пк    seconds = time.time() - time_start  # время которое мы провели за компьютером    sheet['B' + str(row)] = time.strftime('%H:%M:%S', time.gmtime(seconds))    sheet['E1'] = row - 1  # вычитаем шапку таблицу    all_time = all_time + seconds    all_time = time.strftime('%H:%M:%S', time.gmtime(all_time))    sheet['E2'] = all_time    # заполняем первый лист    sheet_0 = wb.worksheets[0]    sheet_0['A' + str(len(wb.sheetnames))] = today    sheet_0['B' + str(len(wb.sheetnames))] = all_time    while True:  # закрываем файл        try:            wb.save(path_excel + r'\dnevnik.xlsx')        except PermissionError:            input('Сначала закройте excel файл и подтвердите нажав enter')        else:            break

Звуковое оповещение

Для разнообразия сгенерировали 8 аудиофайлов используя синтезатор речи, которые запускаются рандомно после часа работы. Пока не сделаете перерыв повторных звуковых оповещений не будет.

def audio_message(path, here):    if here == 0:        pass    elif time.strftime('%H:%M:%S', time.gmtime(time.time()-here)) == "01:00:00":        wav = random.choice(os.listdir(path + r'\audio'))        winsound.PlaySound(path + r'\audio\\' + wav, winsound.SND_FILENAME)

Автозагрузка скрипта при включении ПК

Для того, чтобы программа загружалась вместе с виндой можно создать батник, который будет запускать python скрипт. Батник должен находиться в директории:

C:\Users\%username%\AppData\Roaming\Microsoft\Windows\Start Menu\Programs\Startup

C учетом того, что батник и исходный файл хранятся в разных директориях, нельзя использовать функцию os.getcwd() так как она вернет путь до батника. Мы используем os.path.abspath(__file__)[:-11]

В будущем

Хотелось бы, что бы программа следила за моим лицом, а не за всеми, кто садиться за компьютер. Для этого будет использоваться FaceNet которая способна распознавать лица.
Также в планах разработать красивый виджет вместо некрасивой черной консоли, и что бы при выключении компьютера запись производилась автоматически, а не с помощью прерывания.
Спасибо за внимание. Если есть вопросы пишите в комментарии или на https://www.linkedin.com/in/evg-voronov/

Я работаю педагогом в детском технопарке Кванториум. В период самоизоляции мы так же, как и все перешли на дистанционное обучение. И в связи с тем, что дети стали еще больше времени проводить за компьютером, администрация решила сократить академический час и делать перерывы между работой (что бы сохранить зрение). Мы написали приложение, которое подсчитывает время, проведенное за компьютером, ведет статистику в excel (полезно для родителей) и выдает звуковое оповещение о том, что пора сделать перерыв.

Приложение будем полезно тем, кто теряется во времени работая за пк и хочет вогнать себя во временные рамки или следить за тем, какая часть жизни теряется в цифровом пространстве.

Ссылка на репозиторий

Под катом подробный разбор.

Для создания программы нужно решить следующие задачи:

• детекция лица через web камеру (используем mtcnn);
• подсчёт времени (библиотека time)
• запись данных в excel документ (библиотека openpyxl);
• звуковое оповещение;
• автозагрузка скрипта при включении ПК.

Детекция лица с использованием web камеры

Мы рассматривали вариант отслеживать присутствие за компьютером по движению компьютерной мыши, возможно это проще и web камера останется свободной, но тогда мы не сможем учитывать просмотр сериалов или youtube роликов, к тому же использовать распознавание лиц гораздо интереснее.

Для детекции лица используем архитектуру mtcnn. Голова, расположенная под любым углом, в очках, при плохом освещении, даже если лицо не полностью попадает в кадр или прикрыто рукой, нейронная сеть работает исправно. Самостоятельно собирать ее не станем, подключим библиотеку с одноименным названием, которая решит нашу задачу используя несколько строчек кода.

Изначально использовали метод Виолы-Джонса. Точность намного хуже, чем у mtcnn, процессор загружает также.





Вывод результата вынесем в отдельную функцию, она нужна только для того, чтобы посмотреть, как работает распознавание.

import cv2import osfrom mtcnn.mtcnn import MTCNNdef show_face_frame():    if faces:        bounding_box = faces[0]['box']        keypoints = faces[0]['keypoints']        cv2.rectangle(img,                      (bounding_box[0], bounding_box[1]),                      (bounding_box[0] + bounding_box[2],                       bounding_box[1] + bounding_box[3]),                      (0, 0, 255),                      2)        cv2.circle(img, (keypoints['left_eye']), 3, (0, 0, 255), 2)        cv2.circle(img, (keypoints['right_eye']), 2, (0, 0, 255), 2)        cv2.circle(img, (keypoints['nose']), 3, (0, 0, 255), 2)        cv2.circle(img, (keypoints['mouth_left']), 3, (0, 0, 255), 2)        cv2.circle(img, (keypoints['mouth_right']), 3, (0, 0, 255), 2)    cv2.imshow('frame', img)cap = cv2.VideoCapture(0)detector = MTCNN()while cap.isOpened():        _, img = cap.read()        img = cv2.cvtColor(img, cv2.COLOR_BGR2RGB)        faces = detector.detect_faces(img)        show_face_frame()        cv2.waitKey(300)cap.release()cv2.destroyAllWindows()

Большая задержка cv2.waitKey(300), чтобы не загружать процессор. Обработка 3-4 кадров в секунду загружают i3-8145U в среднем на 15%.

Подсчет времени

Программа не должна делать записи в журнал в следующих случаях:

• сел за компьютер на 5 сек что-то по бырику сделать;
• вышел налить кофе или размять ноги.

Для решения этих задач в программе используется два секундомера time_here (отсчитывает время, когда лицо в кадре) и time_not_here (когда лица нет). Оба секундомера сбрасываются, когда производиться запись в журнал. К тому же time_not_here сбрасывается каждый раз, когда лицо появляется в кадре.

В переменной min_time_here указано минимальное время, проведенное за компьютером, после которого стоит делать запись в журнал. Запись будет произведена после того, как человек отвлечётся от компьютера на время большее чем указано в min_time_not_here.

В коде ниже запись осуществляется, если провел минимум 5 минут за компьютером. Программа не будет учитывать то, что я отвлекаюсь меньше чем на 2 минуты.

import cv2import timeimport osfrom mtcnn.mtcnn import MTCNNcap = cv2.VideoCapture(0)path = os.path.abspath(__file__)[:-11]  # из абсолютного пути удаляем имя файлаhere, not_here = 0, 0  # секундомерыtime_here, time_not_here = 0, 0  # количество времениswitch = True  # переключатель определяет есть лицо в кадре или нетmin_time_here = 300  # минимально время проведенное за пк, после которого производится запись (в секундах) min_time_not_here = 120  # максимальное время отвлечение от компьютера которое не учитывается программой (в секундах)detector = MTCNN()try:    while cap.isOpened():        _, img = cap.read()        img = cv2.cvtColor(img, cv2.COLOR_BGR2RGB)        faces = detector.detect_faces(img)       show_face_frame()       audio_message(path, here)        if faces and switch:            not_here = 0            switch = False            if here == 0:                here = time.time()                print('вы сели за компьютер в ' + time.strftime("%H:%M:%S", time.localtime(here)))        elif not faces and not switch:            not_here = time.time()            switch = True        if not_here != 0:            time_not_here = time.time() - not_here        if here != 0 and not switch:            time_here = time.time() - here        if time_here > min_time_here and time_not_here > min_time_not_here:  # делаем запись если провели за ПК больше min_time_here            write_excel(path, here)            print('вы провели за компьютером ' + time.strftime('%H:%M:%S', time.gmtime(time.time() - here)))            time_here, time_not_here = 0, 0            here, not_here = 0, 0        elif time_not_here > min_time_not_here and  time_here < min_time_here:  # если за ПК провели меньше min_time_here, то ничего не записываем            print('запись не произведена')            time_here, time_not_here = 0, 0            here, not_here = 0, 0        cv2.waitKey(300)except KeyboardInterrupt:    if time_here > min_time_here:  # делаем запись если провели за ПК больше min_time_here        write_excel(path, here)    cap.release()    cv2.destroyAllWindows()

Если пользователь хочет выключить компьютер, для начала нужно прервать работу программы (ctrl+c) и время текущей работы попадет в журнал. Для этого используется обработчик исключений.

Запись данных в excel документ

Для работы с excel поможет замечательная библиотека openpyxl, которая одновременно считывать и записывать данные.

Каждый день программа создает новый лист с текущей датой.


На 1 листе записывается посуточная информация, в какой день сколько времени провели за компьютером.



Функция write_excel открывает документ записывает данные и сразу же закрывает.

Нельзя изменить документ через openpyxl если он уже открыт пользователем. На этот случай добавлено исключение.

def write_excel(path_excel, time_start):    wb = openpyxl.load_workbook(path_excel + r'\dnevnik.xlsx')    today = time.strftime("%d.%m.%Y", time.localtime(time.time()))    if today not in wb.sheetnames:  # если листа с сегодняшней датой еще не существует, то создаем его        wb.create_sheet(title=today)        sheet = wb[today]        sheet.column_dimensions['A'].width = 20        sheet.column_dimensions['B'].width = 20        sheet.column_dimensions['C'].width = 20        sheet.column_dimensions['D'].width = 31        sheet['A1'] = 'Начал работать за ПК'        sheet['B1'] = 'Время работы за ПК'        sheet['C1'] = 'Закончил работать'        sheet['D1'] = 'Сел за компьютер:'        sheet['D2'] = 'Всего провели за ПК времени:'        sheet = wb[today]        row = 2        all_time = 0    else:  # если лист уже создан извлекаем информацию        sheet = wb[today]        row = sheet['E1'].value  # номер строки в excel документе        all_time = sheet['E2'].value  # общее время проведенное за ПК за один день        all_time = all_time.split(':')        all_time = int(all_time[0]) * 3600 + int(all_time[1]) * 60 + int(all_time[2])  # время переводим в секунды        row = row + 2  # плюсуем шапку таблицы и новую строку    sheet['A' + str(row)] = time.strftime("%H:%M:%S", time.localtime(time_start))  # записываем время когда сели за пк    sheet['C' + str(row)] = time.strftime("%H:%M:%S", time.localtime(time.time()))  # когда вышли из за пк    seconds = time.time() - time_start  # время которое мы провели за компьютером    sheet['B' + str(row)] = time.strftime('%H:%M:%S', time.gmtime(seconds))    sheet['E1'] = row - 1  # вычитаем шапку таблицу    all_time = all_time + seconds    all_time = time.strftime('%H:%M:%S', time.gmtime(all_time))    sheet['E2'] = all_time    # заполняем первый лист    sheet_0 = wb.worksheets[0]    sheet_0['A' + str(len(wb.sheetnames))] = today    sheet_0['B' + str(len(wb.sheetnames))] = all_time    while True:  # закрываем файл        try:            wb.save(path_excel + r'\dnevnik.xlsx')        except PermissionError:            input('Сначала закройте excel файл и подтвердите нажав enter')        else:            break

Звуковое оповещение

Для разнообразия сгенерировали 8 аудиофайлов используя синтезатор речи, которые запускаются рандомно после часа работы. Пока не сделаете перерыв повторных звуковых оповещений не будет.

def audio_message(path, here):    if here == 0:        pass    elif time.strftime('%H:%M:%S', time.gmtime(time.time()-here)) == "01:00:00":        wav = random.choice(os.listdir(path + r'\audio'))        winsound.PlaySound(path + r'\audio\\' + wav, winsound.SND_FILENAME)

Автозагрузка скрипта при включении ПК

Для того, чтобы программа загружалась вместе с виндой можно создать батник, который будет запускать python скрипт. Батник должен находиться в директории:

C:\Users\%username%\AppData\Roaming\Microsoft\Windows\Start Menu\Programs\Startup

C учетом того, что батник и исходный файл хранятся в разных директориях, нельзя использовать функцию os.getcwd() так как она вернет путь до батника. Мы используем os.path.abspath(__file__)[:-11]

В будущем

Хотелось бы, что бы программа следила за моим лицом, а не за всеми, кто садиться за компьютер. Для этого будет использоваться FaceNet которая способна распознавать лица.
Также в планах разработать красивый виджет вместо некрасивой черной консоли, и что бы при выключении компьютера запись производилась автоматически, а не с помощью прерывания.
Спасибо за внимание. Если есть вопросы пишите в комментарии или на https://www.linkedin.com/in/evg-voronov/