Русский
Русский
English
Статистика
Реклама

Flutter слоёный пирог с интересной начинкой. Графика

Write once, run anywhere

Заманчивая идея написал код один раз, и он работает на всех платформах. По-моему, уJavaэто не плохо получилось. Дополнительная абстракция в виде байт-кода иJVM,отделяющая приложение от особенностей реализации платформы, помогла Java сделать своё дело.

В 1995 году, когда компания Sun провозгласила этот лозунг, ещё никто не знал что такое смартфон, а web-технологии только только начинали покорять мир. Похоже, с тех пор, многое изменилось. Количество IT-продуктов, как и их пользователей, росло огромными темпами, соответственно выросло количество технологий, инструментов и языков разработки. Акцент взаимодействия конечных пользователей с приложениями сместился в сторону web и мобильных платформ, а Android и iOS практически единолично поделили между собой мир мобильных устройств. Тем временем, можно определённо сказать, что лозунг "напиши один раз и запускай везде" приобрёл еще большую актуальность.

C точки зрения бизнеса, единая кодовая база, на которой можно собрать приложение с минимальными изменениями или дополнениями для различных платформ, звучит соблазнительно. Важную роль сегодня играет UI/UX, возможности для реализации которых, нам предоставляют web и мобильные платформы. И если, в плане мультиплатформенности бизнес-логики, к Java вопросов нет, то, например, проSwingдумаю можно не обсуждать. Перед техническим погружением в реализацию механизмов отрисовки во Flutter, разрешите представить своё мнение о текущем состоянии мультиплатформы.

To Web or not to Web

Web-технологии не стоят на месте -HTML5,WebGL,WebRTC,WebAssembly,ProgressiveWebApp. Казалось бы, идеальный кандидат для кроссплатформы, свиртуальной машиной (браузером), которая присутствует почти в каждом девайсе пользователя, от компьютера и телефона до часов и телевизора. Много внимания уделяется Responsive design в вебе, который помогает справиться с различными размерами экранов, а PWA делает web-приложения всё ближе к полноценным нативным приложениям.

Для мобильных платформ предлагаются "промежуточные" решения, например, обернуть WebView в нативный код, чтобы притвориться нормальным приложением. PhoneGap/Cardova,Ionicи многие другие из этой группы, как говорится, - Добро пожаловать, web-разрабочики, в мир мобильных приложений! Есть желание использовать возможности платформы, которых пока нет в реализации браузера? не беда, подключаем плагины. Такой подход существует уже с 2005 года, но, по-видимому, не всё так гладко.

Идея! - сказал кто-то в Facebook, - Берём полюбившийся сообществу веб-разработчиков ReactJS, а чтобы пользовательский опыт не сильно страдал, будем использовать "родные" для платформы интерфейсы взаимодействия с пользователем - на сцене появляется React Native.Xamarin c C#, KMM с Kotlin, по-моему, можно причислить к этой же когорте. Как бы там ни было - React Native, с Javascript и часто обсуждаемым "мостом", занял вполне достойное место в ряду кроссплатформенных решений.

Fresh start

В 2014 году, тихо и без пафоса, стартовал проект Sky, а через какое-то время начала появляется первая публичная информация. В 2018 году, уже под именем Flutter, проект достаточно громко заявил о себе выпуском первой стабильной версии. К тому времени, у меня уже был опыт использования ReactNative, PhoneGap/Ionic и PWA - и вроде всё работает, бизнес-задачи решаются, но, где-то внутри, было труднообъяснимое чувство недосказанности по этим инструментам.

Когда я впервые услышал о Flutter, первая мысль - очередная попытка "поженить" web и mobile, но, после более глубокого ознакомления с работой фреймворка, понял, что ошибался, понял, что меня не устраивало в предыдущих решениях - вот эти попытки, связать по живому mobile и web, как Франкенштейна.

Flutter выглядел одновременно новым, и в тоже время знакомым решением. Новым - потому что увидел смелый шаг с отказом от полумер, в попытке "угодить и этим и этим", знакомым - поскольку, при изучении фреймворка, часто наталкивался на известные и хорошо себя показавшие подходы из веб-технологий, что не удивительно, ведь вдохновителями Flutter были и остаются Eric Siedel и Ian Hickson, которые принимали непосредственное участие в разработке Chrome(WebKit, Blink), HTML5 и других web-технологий, а разработчик Dart, принимал активное участие в разработке Javascript V8. Мне кажется, эти люди просто решили сделать шаг вперед, без оглядки на взаимные ограничения накладываемые web и mobile. В общем, просто настало время, появились люди и поддержка компании Google))

Хорошая это была идея или плохая, покажет время. А пока, при упоминании Flutter, число классических мнений: кладбище проектов google и зачем с нуля изобретать очередной велосипед уменьшается пропорционально росту количеству приложений на флаттер, вакансий и популярности проекта на GitHub, а появление SwiftUI и Jetpack Compose (и более экзотических) подтверждает жизнеспособность декларативного подхода при определении UI в коде.

В этой статье, я бы хотел вместе с вами погрузиться в исследование механизмов работы, одного из самых важных компонентов Flutter - отрисовка и рендеринг. И, заодно, попробуем понять, что такое шейдеры, которые последнее время на слуху в сообществе разработчиков Flutter, и почему они влияют на лаги анимации при первом старте.

Идея использования слоёв в IT-архитектуре, не нова, взять ту же Clean Architecture, которая позволяет нам разделить ответственности и взаимодействие между слоями. Flutter с самого начала своей истории активно использует этот подход. В первом приближении Flutter UI Toolkit делится на 3 слоя:

Application Code - код написанный разработчиком Flutter

Flutter Framework - написан на Dart, содержит большое количество базовых виджетов для построения визуального интерфейса взаимодействия с пользователем, механизм построения и компоновки виджетов, создание команд отрисовки готовой сцены для передачи на уровень Engine, инструменты тестирования и отладки.

Flutter Engine - платформонезависимая часть Flutter, написанная на C/C++, фактически представляет из себя динамическую библиотеку, подключаемую при старте приложения. Поставляется в скомпилированном виде на машине разработчика при установке Flutter. Содержит виртуальную машину Dart, библиотеку Skia, код рендеринга, код взаимодействия с нижнем уровнем платформы.

Embedder - часть реализации, зависящая от платформы для которой будет собираться приложение, отвечает за: подготовку и предоставление поверхности для рисования в Engine, сигнал VSYNC(синхронизация отрисовки кадра), обслуживание событий интерфейса пользователя, создание потоков и внутренних очередей событий.

Framework

Это первый слой, с которым начинает "общаться" Flutter разработчик. А если быть более точным, и принять во внимание отличие понятий "библиотека" и "фреймворк", Flutter Framework, управляет написанным нами кодом. На языке Dart, создается декларативное описание интерфейса в виде древовидной компоновки объектов Widget, и уже сам фреймворк вызывает методы отрисовки или перестроения дерева виджетов.

Сам фреймворк написан полностью на языке Dart, и компилируется вместе с нашей программой в момент сборки приложения. Одна из основных задач фреймворка - преобразовать описаный нами декларативный интерфейс, в так называемое сцену, и отправить на слой ниже в Engine.

Фреймворк также внутри разделен на слои, каждый со своей зоной ответственности.

  • Уровень виджетов - использует программист Flutter при разработке(чуть ниже есть уровень Elements, его пропустим, полное описание принципа построения виджетов будет дано по ссылке ниже)

  • Уровень рендеринга - сам фреймворк, под капотом, использует так называемые RenderObject, которые формируются из дерева виджетов

  • Уровень отрисовки - здесь на основе дерева RenderObject формируются команды отрисовки для передачи в Engine.

Для исследования, возьмем простейший пример, состоящий из нескольких виджетов с простой конфигурацией.

box_example.dart
import 'package:flutter/material.dart';void main() {  runApp(MyApp());}class MyApp extends StatelessWidget {  @override  Widget build(BuildContext context) {    return Center(      child: Container(        width: 200,        height: 200,        decoration: BoxDecoration(          border: Border.all(color: Colors.blueAccent),          borderRadius: const BorderRadius.all(Radius.circular(30)),        ),        padding: EdgeInsets.all(30),        child: Container(          color: Colors.redAccent,        ),      ),    );  }}
Результат работы box_example.dartРезультат работы box_example.dart

По коду нашего приложения видно, что мы, для отображения нашей композиции, не указывали конкретных координат отрисовки, положение и направлений линий и закраски, нет каких-либо команд рисования, т.е. в данном случае используем полностью декларативный, описательный подход. Также во Flutter, в качестве размеров используются логические пиксели, которые не зависят от реального разрешения и плотности экрана и позволяют оперировать практически одинаковыми визуальными размерами на разных устройствах.

После запуска приложения происходит инициализация так называемых Bindings, которые связывают фреймворк с нижним уровнем Engine.

SchedulerBinding Отвечает, в том числе, за обработку и формирование вызовов сигнализирующих о текущем статусе построения фрейма (BeginFrame, DrawFrame)

WidgetsBinding отвечает за перестроение дерева виджетов, построение elements и RenderObejct

RenderBinding После построения дерева элементов, RenderObject и их взаимосвязей, в работу включается слой фреймворка Rendering, который выполняет несколько этапов

  • Layout - производится расчет размеров и положения всех RenderObject

  • CompositingBits - обновляется информация об объетках использующих композицию

  • Paint - отрисовка экрана. Здесь задействована Skia, через использование PictureLayer, PictureRecorder и Canvas, RenderObjects отрисовываютс себя с помощью этих элементов, но, на самом деле фактически просто формируется список команд отрисовки и применения слоёв.

  • Compositing - создается и строится сцена Scene с учетом всех слоёв их композиции и команд отрисовки на этих слоях.

 Подготовка сцены перед передачей на отрисовку в Engine Подготовка сцены перед передачей на отрисовку в Engine

Flutter Engine

После того как сцена(Scene) со всеми командами отрисовки подготовлена, она передается на уровень Engine с помощью метода render. Затем из сцены извлекается LayerTree, производятся необходимые предварительные действия и проверка дерева. На данном этапе, работа в потоке UI завершается, а LayerTree передается на обработку в Raster поток.

При запуске Flutter приложения, инициализируются четыре потока
UI Thread - основная программа пользователя и код фреймворка на Dart
Raster Thread - поток работы с OpenGL и отрисовкой на GPU
IO Thread - вспомогательный поток для Raster thread, обработка assets
Platform Thread - платформозависимый код приложения

Процессом непосредственной отрисовки на экран устройства управляет класс Rasterizer. Метод Draw этого класса запускается в отельном потоке Raster. Сначала в работу вступает композитор Flow, он разворачивает дерево и подготавливает слои дерева (LayerTree:Preroll) к отрисовке, а после выполняет команды отрисовки Skia, которые находятся в дереве (LayerTree:paint), замечу, в данном случае непосредственно отрисовки на экране не происходит, по сути собирается очередь из так называемых объектов операций Skia (см. addDrawOp)

В методе SkCanvas:Flush производится выполнение операций Skia, из очереди, которая была подготовлена на предыдущем этапе, эти операции выполняют непосредственную отрисовку в OpenGL буфер. После отрисовки вызывается метод платформы SwapBuffer, изображение появляется на экране, а цикл рендеринга фрейма в потоке GPU завершается.

По временному графику видно, что время подготовки сцены в UI потоке и её последующей композиции в Raster потоке мало, по сравнению с временем выполнения непосредственной отрисовки в SkCanvas:Flush. В нашем случае простой сцены это в пределах нормы, но при сложной сцене время отрисовки может значительно возрасти. Как правило, это связно с подготовкой программ для графического процессора по каждой из операций Skia. Обратите внимание на пару GrGlProgram в операциях отрисовки прямоугольников из нашего примера - FillRectOp на графике, это как раз место где генерируются и компилируются программы для GPU.

Shaders

Шейдер(англ.shaderзатеняющий)компьютерная программа, предназначенная для исполненияпроцессорами видеокарты (GPU). Шейдеры составляются на одном из специализированныхязыков программирования икомпилируютсявинструкциидля ЦП.

Skia, как и большинство программ использующих OpenGL/Metal при рендеринг, не использует команды отрисовки отдельных точек, линий, полигонов и их закрашивание. Для отрисовки элемента сначала создаются буферы с вершинами и их координатами(vertex), а также генерируются так называемые шейдеры. Шейдеры - по сути программы, которые работают на процессорах GPU, и параллельно обрабатывают координаты и цвета точек, которые им были предварительно переданы через буферы. В Skia, для рендеринга элементов используются 2 типа шейдеров - это вершинные(vertex) и пиксельные(fragment). Вершинные работают с координатами(например могут применять матрицы трансформации, проекции), пиксельные управляют цветом каждого пикселя перед выдачей на экран устройства.

Существуют несколько вариантов языков описания шейдеров, в большинстве своём, это Си-подобные языки (Metal например использует спецификацию С++14). Чтобы абстрагироваться от разных вариантов языков, Skia, под капотом, использует свой формат SkSL, который фактически унаследован от OpenGL GLSL.

Ниже приведены примеры шейдеров, которые создаются для нашей простейшей программы, с изображением рамки со скруглёнными углами и закрашенного квадрата.

Вершинный и пиксельный шейдеры сгенерированые Skia для отрисовки квадрата
#extension GL_NV_shader_noperspective_interpolation: requireuniform float4 sk_RTAdjust;in float2 position;in half4 color;noperspective out half4 vcolor_Stage0;void main() {// Primitive Processor QuadPerEdgeAAGeometryProcessorvcolor_Stage0 = color;sk_Position = float4(position.x , position.y, 0, 1);}#extension GL_NV_shader_noperspective_interpolation: requirenoperspective in half4 vcolor_Stage0;out half4 sk_FragColor;void main() {half4 outputColor_Stage0;half4 outputCoverage_Stage0;{// Stage 0, QuadPerEdgeAAGeometryProcessoroutputColor_Stage0 = vcolor_Stage0;outputCoverage_Stage0 = half4(1);}{// Xfer Processor: Porter Duffsk_FragColor = outputColor_Stage0 * outputCoverage_Stage0;}}
Вершинный и пиксельный шейдеры сгенерированные Skia для отрисовки рамки
#extension GL_NV_shader_noperspective_interpolation: requireuniform float4 sk_RTAdjust;in float2 position;in half4 color;noperspective out half4 vcolor_Stage0;void main() {// Primitive Processor QuadPerEdgeAAGeometryProcessorvcolor_Stage0 = color;sk_Position = float4(position.x , position.y, 0, 1);}#extension GL_NV_shader_noperspective_interpolation: requireuniform float4 uinnerRect_Stage1_c0;uniform half2 uradiusPlusHalf_Stage1_c0;uniform float4 uinnerRect_Stage1_c0_c0;uniform half2 uradiusPlusHalf_Stage1_c0_c0;noperspective in half4 vcolor_Stage0;out half4 sk_FragColor;half4 CircularRRect_Stage1_c0_c0(half4 _input) {float2 dxy0 = uinnerRect_Stage1_c0_c0.LT - sk_FragCoord.xy;float2 dxy1 = sk_FragCoord.xy - uinnerRect_Stage1_c0_c0.RB;float2 dxy = max(max(dxy0, dxy1), 0.0);half alpha = half(saturate(uradiusPlusHalf_Stage1_c0_c0.x - length(dxy)));alpha = 1.0 - alpha;return _input * alpha;}inline half4 CircularRRect_Stage1_c0(half4 _input) {float2 dxy0 = uinnerRect_Stage1_c0.LT - sk_FragCoord.xy;float2 dxy1 = sk_FragCoord.xy - uinnerRect_Stage1_c0.RB;float2 dxy = max(max(dxy0, dxy1), 0.0);half alpha = half(saturate(uradiusPlusHalf_Stage1_c0.x - length(dxy)));return CircularRRect_Stage1_c0_c0(_input) * alpha;}void main() {half4 outputColor_Stage0;half4 outputCoverage_Stage0;{// Stage 0, QuadPerEdgeAAGeometryProcessoroutputColor_Stage0 = vcolor_Stage0;outputCoverage_Stage0 = half4(1);}half4 output_Stage1;output_Stage1 = CircularRRect_Stage1_c0(outputCoverage_Stage0);{// Xfer Processor: Porter Duffsk_FragColor = outputColor_Stage0 * output_Stage1;}}

Т.е. в нашем примере сгенерировано всего 2 шейдера, но если мы возьмем классический пример приложения каунтера во Flutter:

шейдеров гораздо больше (с учётом эффекта при нажатии кнопки)

Шейдеры классического примера с каунтером
#extension GL_NV_shader_noperspective_interpolation: requireuniform float4 sk_RTAdjust;in float2 inPosition;in half4 inColor;in half3 inShadowParams;noperspective out half3 vinShadowParams_Stage0;noperspective out half4 vinColor_Stage0;void main() {// Primitive Processor RRectShadowvinShadowParams_Stage0 = inShadowParams;vinColor_Stage0 = inColor;float2 _tmp_0_inPosition = inPosition;sk_Position = float4(_tmp_0_inPosition.x , _tmp_0_inPosition.y, 0, 1);}#extension GL_NV_shader_noperspective_interpolation: requireuniform sampler2D uTextureSampler_0_Stage0;noperspective in half3 vinShadowParams_Stage0;noperspective in half4 vinColor_Stage0;out half4 sk_FragColor;void main() {half4 outputColor_Stage0;half4 outputCoverage_Stage0;{// Stage 0, RRectShadowhalf3 shadowParams;shadowParams = vinShadowParams_Stage0;outputColor_Stage0 = vinColor_Stage0;half d = length(shadowParams.xy);float2 uv = float2(shadowParams.z * (1.0 - d), 0.5);half factor = sample(uTextureSampler_0_Stage0, uv).000r.a;outputCoverage_Stage0 = half4(factor);}{// Xfer Processor: Porter Duffsk_FragColor = outputColor_Stage0 * outputCoverage_Stage0;}}#extension GL_NV_shader_noperspective_interpolation: requireuniform float4 sk_RTAdjust;in float2 position;in half4 color;noperspective out half4 vcolor_Stage0;void main() {// Primitive Processor QuadPerEdgeAAGeometryProcessorvcolor_Stage0 = color;sk_Position = float4(position.x , position.y, 0, 1);}#extension GL_NV_shader_noperspective_interpolation: requirenoperspective in half4 vcolor_Stage0;out half4 sk_FragColor;void main() {half4 outputColor_Stage0;half4 outputCoverage_Stage0;{// Stage 0, QuadPerEdgeAAGeometryProcessoroutputColor_Stage0 = vcolor_Stage0;outputCoverage_Stage0 = half4(1);}{// Xfer Processor: Porter Duffsk_FragColor = outputColor_Stage0 * outputCoverage_Stage0;}}#extension GL_NV_shader_noperspective_interpolation: requireuniform float4 sk_RTAdjust;uniform float3x3 ulocalMatrix_Stage0;in float2 inPosition;in half4 inColor;in float4 inCircleEdge;noperspective out float4 vinCircleEdge_Stage0;noperspective out half4 vinColor_Stage0;void main() {// Primitive Processor CircleGeometryProcessorvinCircleEdge_Stage0 = inCircleEdge;vinColor_Stage0 = inColor;float2 _tmp_0_inPosition = inPosition;float2 _tmp_1_inPosition = (ulocalMatrix_Stage0 * inPosition.xy1).xy;sk_Position = float4(_tmp_0_inPosition.x , _tmp_0_inPosition.y, 0, 1);}#extension GL_NV_shader_noperspective_interpolation: requirenoperspective in float4 vinCircleEdge_Stage0;noperspective in half4 vinColor_Stage0;out half4 sk_FragColor;void main() {half4 outputColor_Stage0;half4 outputCoverage_Stage0;{// Stage 0, CircleGeometryProcessorfloat4 circleEdge;circleEdge = vinCircleEdge_Stage0;outputColor_Stage0 = vinColor_Stage0;float d = length(circleEdge.xy);half distanceToOuterEdge = half(circleEdge.z * (1.0 - d));half edgeAlpha = saturate(distanceToOuterEdge);outputCoverage_Stage0 = half4(edgeAlpha);}{// Xfer Processor: Porter Duffsk_FragColor = outputColor_Stage0 * outputCoverage_Stage0;}}#extension GL_NV_shader_noperspective_interpolation: requireuniform float4 sk_RTAdjust;in float2 position;in half4 inColor;noperspective out half4 vcolor_Stage0;void main() {// Primitive Processor VerticesGPhalf4 color = inColor;color = color.bgra;color = color;color = half4(color.rgb * color.a, color.a);vcolor_Stage0 = color;float2 _tmp_0_position = position;sk_Position = float4(_tmp_0_position.x , _tmp_0_position.y, 0, 1);}#extension GL_NV_shader_noperspective_interpolation: requireuniform half4 ucolor_Stage1_c0_c0;noperspective in half4 vcolor_Stage0;out half4 sk_FragColor;half4 ConstColorProcessor_Stage1_c0_c0(half4 _input) {return ucolor_Stage1_c0_c0;}half4 BlurredEdgeFragmentProcessor_Stage1_c0_c1(half4 _input) {half inputAlpha = _input.w;half factor = 1.0 - inputAlpha;@switch (0) {case 0:        factor = exp((-factor * factor) * 4.0) - 0.017999999225139618;break;case 1:        factor = smoothstep(1.0, 0.0, factor);break;}return half4(factor);}inline half4 Blend_Stage1_c0(half4 _input) {// Blend mode: Modulate (SkMode behavior)return blend_modulate(ConstColorProcessor_Stage1_c0_c0(half4(1)), BlurredEdgeFragmentProcessor_Stage1_c0_c1(_input));}void main() {half4 outputColor_Stage0;half4 outputCoverage_Stage0;{// Stage 0, VerticesGPoutputColor_Stage0 = vcolor_Stage0;outputCoverage_Stage0 = half4(1);}half4 output_Stage1;output_Stage1 = Blend_Stage1_c0(outputColor_Stage0);{// Xfer Processor: Porter Duffsk_FragColor = output_Stage1 * outputCoverage_Stage0;}}#extension GL_NV_shader_noperspective_interpolation: requireuniform float4 sk_RTAdjust;uniform float2 uAtlasSizeInv_Stage0;in float2 inPosition;in half4 inColor;in ushort2 inTextureCoords;noperspective out float2 vTextureCoords_Stage0;noperspective out float vTexIndex_Stage0;noperspective out half4 vinColor_Stage0;void main() {// Primitive Processor Textureint texIdx = 0;float2 unormTexCoords = float2(inTextureCoords.x, inTextureCoords.y);vTextureCoords_Stage0 = unormTexCoords * uAtlasSizeInv_Stage0;vTexIndex_Stage0 = float(texIdx);vinColor_Stage0 = inColor;float2 _tmp_0_inPosition = inPosition;sk_Position = float4(inPosition.x , inPosition.y, 0, 1);}}#extension GL_NV_shader_noperspective_interpolation: requireuniform sampler2D uTextureSampler_0_Stage0;noperspective in float2 vTextureCoords_Stage0;noperspective in float vTexIndex_Stage0;noperspective in half4 vinColor_Stage0;out half4 sk_FragColor;void main() {half4 outputColor_Stage0;half4 outputCoverage_Stage0;{// Stage 0, TextureoutputColor_Stage0 = vinColor_Stage0;half4 texColor;{texColor = sample(uTextureSampler_0_Stage0, vTextureCoords_Stage0).rrrr;}outputCoverage_Stage0 = texColor;}{// Xfer Processor: Porter Duffsk_FragColor = outputColor_Stage0 * outputCoverage_Stage0;}}#extension GL_NV_shader_noperspective_interpolation: requireuniform float4 sk_RTAdjust;uniform float4 uviewMatrix_Stage0;in float2 position;in half4 inColor;noperspective out half4 vcolor_Stage0;void main() {// Primitive Processor VerticesGPhalf4 color = inColor;color = color.bgra;color = color;color = half4(color.rgb * color.a, color.a);vcolor_Stage0 = color;float2 _tmp_0_position = uviewMatrix_Stage0.xz * position + uviewMatrix_Stage0.yw;sk_Position = float4(_tmp_0_position.x , _tmp_0_position.y, 0, 1);}#extension GL_NV_shader_noperspective_interpolation: requireuniform half4 ucolor_Stage1_c0_c0;noperspective in half4 vcolor_Stage0;out half4 sk_FragColor;half4 ConstColorProcessor_Stage1_c0_c0(half4 _input) {return ucolor_Stage1_c0_c0;}half4 BlurredEdgeFragmentProcessor_Stage1_c0_c1(half4 _input) {half inputAlpha = _input.w;half factor = 1.0 - inputAlpha;@switch (0) {case 0:        factor = exp((-factor * factor) * 4.0) - 0.017999999225139618;break;case 1:        factor = smoothstep(1.0, 0.0, factor);break;}return half4(factor);}inline half4 Blend_Stage1_c0(half4 _input) {// Blend mode: Modulate (SkMode behavior)return blend_modulate(ConstColorProcessor_Stage1_c0_c0(half4(1)), BlurredEdgeFragmentProcessor_Stage1_c0_c1(_input));}void main() {half4 outputColor_Stage0;half4 outputCoverage_Stage0;{// Stage 0, VerticesGPoutputColor_Stage0 = vcolor_Stage0;outputCoverage_Stage0 = half4(1);}half4 output_Stage1;output_Stage1 = Blend_Stage1_c0(outputColor_Stage0);{// Xfer Processor: Porter Duffsk_FragColor = output_Stage1 * outputCoverage_Stage0;}}#extension GL_NV_shader_noperspective_interpolation: requireuniform float4 sk_RTAdjust;uniform float3x3 ulocalMatrix_Stage0;in float2 inPosition;in half4 inColor;in float4 inCircleEdge;noperspective out float4 vinCircleEdge_Stage0;noperspective out half4 vinColor_Stage0;void main() {// Primitive Processor CircleGeometryProcessorvinCircleEdge_Stage0 = inCircleEdge;vinColor_Stage0 = inColor;float2 _tmp_0_inPosition = inPosition;float2 _tmp_1_inPosition = (ulocalMatrix_Stage0 * inPosition.xy1).xy;sk_Position = float4(_tmp_0_inPosition.x , _tmp_0_inPosition.y, 0, 1);}#extension GL_NV_shader_noperspective_interpolation: requireuniform float3x3 umatrix_Stage1_c0_c0_c0;uniform sampler2D uTextureSampler_0_Stage1;noperspective in float4 vinCircleEdge_Stage0;noperspective in half4 vinColor_Stage0;out half4 sk_FragColor;half4 TextureEffect_Stage1_c0_c0_c0_c0(half4 _input, float2 _coords) {return sample(uTextureSampler_0_Stage1, _coords).000r;}half4 MatrixEffect_Stage1_c0_c0_c0(half4 _input, float2 _coords) {return TextureEffect_Stage1_c0_c0_c0_c0(_input, ((umatrix_Stage1_c0_c0_c0) * _coords.xy1).xy);}half4 DeviceSpaceEffect_Stage1_c0_c0(half4 _input) {return MatrixEffect_Stage1_c0_c0_c0(_input, sk_FragCoord.xy);}inline half4 Blend_Stage1_c0(half4 _input) {// Blend mode: DstIn (Compose-One behavior)return blend_dst_in(DeviceSpaceEffect_Stage1_c0_c0(half4(1)), _input);}void main() {half4 outputColor_Stage0;half4 outputCoverage_Stage0;{// Stage 0, CircleGeometryProcessorfloat4 circleEdge;circleEdge = vinCircleEdge_Stage0;outputColor_Stage0 = vinColor_Stage0;float d = length(circleEdge.xy);half distanceToOuterEdge = half(circleEdge.z * (1.0 - d));half edgeAlpha = saturate(distanceToOuterEdge);outputCoverage_Stage0 = half4(edgeAlpha);}half4 output_Stage1;output_Stage1 = Blend_Stage1_c0(outputCoverage_Stage0);{// Xfer Processor: Porter Duffsk_FragColor = outputColor_Stage0 * output_Stage1;}}#extension GL_NV_shader_noperspective_interpolation: requireuniform float4 sk_RTAdjust;in float4 radii_selector;in float4 corner_and_radius_outsets;in float4 aa_bloat_and_coverage;in float4 skew;in float2 translate;in float4 radii_x;in float4 radii_y;in half4 color;noperspective out half4 vcolor_Stage0;noperspective out float2 varccoord_Stage0;void main() {// Primitive Processor GrFillRRectOp::Processorvcolor_Stage0 = color;float2 corner = corner_and_radius_outsets.xy;float2 radius_outset = corner_and_radius_outsets.zw;float2 aa_bloat_direction = aa_bloat_and_coverage.xy;float coverage = aa_bloat_and_coverage.z;float is_linear_coverage = aa_bloat_and_coverage.w;float2 pixellength = inversesqrt(float2(dot(skew.xz, skew.xz), dot(skew.yw, skew.yw)));float4 normalized_axis_dirs = skew * pixellength.xyxy;float2 axiswidths = (abs(normalized_axis_dirs.xy) + abs(normalized_axis_dirs.zw));float2 aa_bloatradius = axiswidths * pixellength * .5;float4 radii_and_neighbors = radii_selector* float4x4(radii_x, radii_y, radii_x.yxwz, radii_y.wzyx);float2 radii = radii_and_neighbors.xy;float2 neighbor_radii = radii_and_neighbors.zw;if (any(greaterThan(aa_bloatradius, float2(1)))) {corner = max(abs(corner), aa_bloatradius) * sign(corner);coverage /= max(aa_bloatradius.x, 1) * max(aa_bloatradius.y, 1);radii = float2(0);}if (any(lessThan(radii, aa_bloatradius * 1.25))) {radii = aa_bloatradius;radius_outset = floor(abs(radius_outset)) * radius_outset;is_linear_coverage = 1;}else {radii = clamp(radii, pixellength, 2 - pixellength);neighbor_radii = clamp(neighbor_radii, pixellength, 2 - pixellength);float2 spacing = 2 - radii - neighbor_radii;float2 extra_pad = max(pixellength * .0625 - spacing, float2(0));radii -= extra_pad * .5;}float2 aa_outset = aa_bloat_direction.xy * aa_bloatradius;float2 vertexpos = corner + radius_outset * radii + aa_outset;float2x2 skewmatrix = float2x2(skew.xy, skew.zw);float2 devcoord = vertexpos * skewmatrix + translate;if (0 != is_linear_coverage) {varccoord_Stage0.xy = float2(0, coverage);}else {float2 arccoord = 1 - abs(radius_outset) + aa_outset/radii * corner;varccoord_Stage0.xy = float2(arccoord.x+1, arccoord.y);}sk_Position = float4(devcoord.x , devcoord.y, 0, 1);}#extension GL_NV_shader_noperspective_interpolation: requireuniform float3x3 umatrix_Stage1_c0_c0_c0;uniform sampler2D uTextureSampler_0_Stage1;noperspective in half4 vcolor_Stage0;noperspective in float2 varccoord_Stage0;out half4 sk_FragColor;half4 TextureEffect_Stage1_c0_c0_c0_c0(half4 _input, float2 _coords) {return sample(uTextureSampler_0_Stage1, _coords).000r;}half4 MatrixEffect_Stage1_c0_c0_c0(half4 _input, float2 _coords) {return TextureEffect_Stage1_c0_c0_c0_c0(_input, ((umatrix_Stage1_c0_c0_c0) * _coords.xy1).xy);}half4 DeviceSpaceEffect_Stage1_c0_c0(half4 _input) {return MatrixEffect_Stage1_c0_c0_c0(_input, sk_FragCoord.xy);}inline half4 Blend_Stage1_c0(half4 _input) {// Blend mode: DstIn (Compose-One behavior)return blend_dst_in(DeviceSpaceEffect_Stage1_c0_c0(half4(1)), _input);}void main() {half4 outputColor_Stage0;half4 outputCoverage_Stage0;{// Stage 0, GrFillRRectOp::ProcessoroutputColor_Stage0 = vcolor_Stage0;float x_plus_1=varccoord_Stage0.x, y=varccoord_Stage0.y;half coverage;if (0 == x_plus_1) {coverage = half(y);}else {float fn = x_plus_1 * (x_plus_1 - 2);fn = fma(y,y, fn);float fnwidth = fwidth(fn);half d = half(fn/fnwidth);coverage = clamp(.5 - d, 0, 1);}outputCoverage_Stage0 = half4(coverage);}half4 output_Stage1;output_Stage1 = Blend_Stage1_c0(outputCoverage_Stage0);{// Xfer Processor: Porter Duffsk_FragColor = outputColor_Stage0 * output_Stage1;}}

Shader compilation jank

Поскольку шейдеры, по сути, просто программы на исходном языке, как и обычные программы на С, перед использованием на GPU их необходимо скомпилировать.

Конечно для компиляции требуется время, поэтому, как правило, существует два варианта - или компилировать непосредственно перед использованием в процессе рендеринга очередного кадра, или компилировать их предварительно, перед запуском основного кода приложения - подход часто используемый, например, для игровых приложений.

Здесь и проявляется проблема с пропуском кадров во время первых анимаций, которую сейчас горячо обсуждают в сообществе Flutter. По-умолчанию, в Skia, шейдеры компилируются перед использованием, если размер шейдеров небольшой, то это никак не влияет на поведение, а если, например, при анимации роута, на новом экране будет использоваться разные элементы, которые потребуют значительное время на компиляцию шейдеров, то в это время текущая анимация может подлагивать.

Можно ли предварительно скомпилировать все возможные шейдеры, перед запуском программы?

Шейдеры в Skia генерируются в зависимости от конфигурации операции - например, закрашенный прямоугольник или только рамка, стиль отрисовки, применение матриц трансформаций - соответственно это порождает много возможных вариантов для каждого примитива (насколько много, на текущий момент, я сказать не могу, предположительно, с учетом всех примитивов, речь идет о сотнях)

Каждой программе присваивается уникальный ключ, и после компиляции шейдера, происходит сохранение результатов компиляции по этому ключу. Поэтому в следующий раз, при формировании такой же программы и условии наличия в кэше ключа, повторная компиляция будет не нужна, поэтому данная проблема проявлятся только при первой анимации.

Для решения проблемы компиляции большого количества шейдеров в OpenGL, команда Flutter и Skia, реализовала метод предварительной записи шейдеров - так называемый "прогрев шейдеров". Суть метода такова - на машине разработчика запускается приложение с ключом, который позволяет сохранять используемые в Skia шейдеры. После запуска приложения, мы пробуем все варианты взаимодействия с интерфейсом, при этом шейдеры запоминаются и сохраняются на диск. Приложение собирается с этими шейдерами, и при старте на устройстве пользователя, они считываются и компилируются перед запуском основного кода.

Сам формат в котором Flutter сохраняет шейдеры закодирован с помощью base64, поэтому для удобства анализа я написал небольшую программу, которая может декодировать в читабельный вид. Ссылка на программу здесь. Плагин VSCode для подсветки синтаксиса здесь.

Metal

Выход metal и добровольно-принудительный переход на эту библиотеку в приложениях iOS, обострил проблему компиляции с новой силой. Дело в том, что предлагаемый метод "прогрева шейдеров", был реализован только на уровне OpenGL. Кроме того, текущий подход при компиляции шейдеров Metal MLSL, в некоторых случаях занимает больше времени, чем, при равных условиях, компиляция шейдеров OpenGL GLSL, что также повлияло на юзер экспириенс и справедливые возмущения разработчиков и бизнеса.

Подход к обработке скомпилированных объектов и их применении в пайплайне рендеринга Metal, немного отличаются от подхода в OpenGL, но, в любом случае методы предварительной компиляции описаны и доступны для использования. Также осенью прошлого года, Apple на WWDC2020 провела презентацию по использованию прекомпиляции и бинарных файлов при построении пайплайна GPU.

По-моему мнению, эта проблема "первых кадров" лежит не в технической, а организационной плоскости, и команда Flutter не придавала должного значения к анализу данной проблемы, а сама проблема решалась без привлечения специалистов по Metal. И только накал страстей и давление сообщества, помогло сдвинуть дело с мертвой точки, и последние недели на GitHub Skia, стали появляется изменения связанные с оптимизацией бинарных архивов Metal и подготовкой библиотек шейдеров.

Также необходимо упомянуть, что команда Flutter рассматривает вариант "прогрева шейдеров" как временный workaround. Конечная цель - полностью избавить разработчика от переживаний и дополнительных действий связанных с "прогревом" шейдеров.

Futter For Web

Буквально пара слов про рендеринг на Canvas в вебе. Для рендеринга, HTML элемент сanvas, используется только для инициализации WebGL (по сути, калька с OpenGLES). Skia, как известно, хорошо работает с OpenGL. Поэтому фактически библиотека Skia написанная на C++, компилируется в WebAssembly с помощью Emscripten + добавляются некоторые байндинги и подключается к проекту.

Show must go on

Как видно Flutter пытается откусить достаточно жирный кусок у платформы. От платформы по-сути требуется только поверхность для рисования, и некоторые системные вещи. Флаттер уже стабильно поддерживает Android/iOS/Linux/Windows.

Конечно, такой кардинальный подход, который выбрала Flutter команда, не обходится без трудностей, но куда ж без них, без трудностей))

Sources

Flutter architectural overview
Inside Flutter
Skia

Источник: habr.com
К списку статей
Опубликовано: 27.03.2021 10:18:41
0

Сейчас читают

Комментариев (0)
Имя
Электронная почта

Блог компании лига ставок

Dart

Flutter

Skia

Категории

Последние комментарии

  • Имя: Макс
    24.08.2022 | 11:28
    Я разраб в IT компании, работаю на арбитражную команду. Мы работаем с приламы и сайтами, при работе замечаются постоянные баны и лаги. Пацаны посоветовали сервис по анализу исходного кода,https://app Подробнее..
  • Имя: 9055410337
    20.08.2022 | 17:41
    поможем пишите в телеграм Подробнее..
  • Имя: sabbat
    17.08.2022 | 20:42
    Охренеть.. это просто шикарная статья, феноменально круто. Большое спасибо за разбор! Надеюсь как-нибудь с тобой связаться для обсуждений чего-либо) Подробнее..
  • Имя: Мария
    09.08.2022 | 14:44
    Добрый день. Если обладаете такой информацией, то подскажите, пожалуйста, где можно найти много-много материала по Yggdrasil и его уязвимостях для написания диплома? Благодарю. Подробнее..
© 2006-2024, personeltest.ru