华为在其 Android 平板上率先推出了“平行视界”功能,使同一应用的不同页面能够并行显示。随后,其他平板厂商也相继推出了类似功能,直到谷歌在 Android 13 上推出了官方版本。这一功能在谷歌的实现中更加完整和强大,尽管其推出时间较晚。对于这个功能而言,产品设计的创新性挑战甚至超过了技术实现的难度。本文将介绍 OpenFDE 上平行视界的实现方法。

方案调研

Android系统的APP都是按全屏设计开发的,在屏幕尺寸较大的平板上,有些应用就会显得比较空,内容比较少,于是国产厂商率先推出了平行视界的功能。最少量开发、快速适配平板的方法。可以横屏下显示多Activity。各厂商都有,但叫法不同,如华为小米就叫平行窗口(magicWindow)。很多应用,如头条、B站、抖音均使用了平行视界,如图:


在老版本的Android上各家厂商都做了比较大的定制才实现这个功能。研究了华为Androi10上平行视界的实现方式后,发现是他是借助了一部分分屏模式的特性,另外再新增了一个Magic Window的模式,必须在横屏下手动设置开关,并且按照文档配置各种切换、页面、尺寸等内容,限制是比较多的。

而谷歌官方在Android 13推出了一个大屏幕设备显示方案:Activity嵌入(Activity Embedding)。该功能不同于分屏模式(将多个应用同时显示在屏幕上),而是类似华为平行视界将同一个应用的多个不同Activity同时显示到屏幕上。

在谷歌的方案中,特性非常丰富,切换,动画、拆分、合并,开发使用也非常方便。其原理是在framework里新增了一个TaskFrament来替代原来的Task,TaskFragment 是 可用于包含 Activity 或其他 TaskFragment 的基本容器,它还能够管理 Activity 生命周期并更新其中 Activity 的可见性。

OpenFDE的平行视界代码实现

AOSP部分的代码是基Android11版本,并没有TaskFragment 这些代码,OpenFDE使用的屏幕模式是freeform(自由窗口模式),与分屏模式不能并行。在freeform模式实现了平行显示,层级绑定和基础版平行视界功能。

ActivityRecord和Task

Activity在framework所涉及的相关数据结构如下(此处的TaskRecord在Android11上应为Task):

与APP端的对应的关系是:

Activity-->ActivityRecord

TaskInfo-->Task

网上找到的类关系图,如果有源码肯定更加好理解:

源码功能说明

具体管理这两个数据结构的类如下,下文具体说一下怎么在这些代码中加入平行视界的功能:

1记录所有activity启动定位参数的持久化数据frameworks/base/services/core/java/com/android/server/wm/LaunchParamsPersister.java 23activity启动前的参数设置 4frameworks/base/services/core/java/com/android/server/wm/ActivityStarter.java 56task移动的控制器 7frameworks/base/services/core/java/com/android/server/wm/TaskPositioningController.java 89task移动操作的控制器 10frameworks/base/services/core/java/com/android/server/wm/TaskPositioner.java 1112task启动参数修改器 13frameworks/base/services/core/java/com/android/server/wm/TaskLaunchParamsModifier.java 1415ATMS 与应用端对应的task最全管理者,resizetask, movefront在这里 16frameworks/base/services/core/java/com/android/server/wm/ActivityTaskManagerService.java 1718task父容器,可以遍历所有 19taskframeworks/base/services/core/java/com/android/server/wm/WindowContainer.java 2021所有应用task的容器,其中mTmpNormalStacks按显示顺序保存了所有应用的taskframeworks/base/services/core/java/com/android/server/wm/TaskDisplayArea.java 2223每个activity在wms对应的数据结构 24frameworks/base/services/core/java/com/android/server/wm/ActivityRecord.java 2526每个activity栈在wms对应的数据结构 27frameworks/base/services/core/java/com/android/server/wm/Task.java 2829任务栈管理者,全局唯一 30frameworks/base/services/core/java/com/android/server/wm/ActivityStackSupervisor.java 3132保存了所有task的数据结构,可以遍历和操作frameworks/base/services/core/java/com/android/server/wm/RootWindowContainer.java

LaunchParamsPersister 在freeform模式下把各个activity启动的坐标持久化在这个路径

11|:/ # cat /data/system_ce/0/launch_params/com.jingdong.app.mall_.MainFrameActivity.xml 2<?xml version='1.0' encoding='utf-8' standalone='yes' ?> 3<launch_params display_unique_id="local:0" windowing_mode="5" bounds="610 98 1071 954" window_layout_affinity="com.jingdong.app.mall" />

ActivityStarter 在每个activity启动函数executeRequest中修改documentLaunchMode为DOCUMENT_LAUNCH_ALWAYS,这样能保证配置的每个activity都会去走新建task的逻辑。

1       // fde start: MAGIC WINDOW 2       int magicType = mSupervisor.getMagicWindowType(aInfo.packageName, aInfo.name); 3       Task task = mRootWindowContainer.findMagicTask(aInfo.taskAffinity, MAGIC_MAIN_WINDOW); 4       if( magicType == MAGIC_ADDITIONAL_WINDOW) { 5           if(task != null){ 6               mMagicLaunch = true; 7               aInfo.documentLaunchMode = DOCUMENT_LAUNCH_ALWAYS; 8           } 9           mWindowAffinity = aInfo.taskAffinity; 10       } else { 11           mMagicLaunch = false; 12       } 13       // fde end
1       // fde start: MAGIC WINDOW 2       if(mMagicLaunch){ 3           reusedTask = mRootWindowContainer.findMagicTask(mWindowAffinity, MAGIC_ADDITIONAL_WINDOW); 4           // Slog.e(TAG, "getmagic task:" + reusedTask); 5           mAddingToTask = true; 6       // fde end 7       }

TaskLaunchParamsModifier 计算窗口坐标的函数中,根据过滤条件调整启动坐标

1   private int calculate(Task task, ActivityInfo.WindowLayout layout, 2           ActivityRecord activity, ActivityRecord source, ActivityOptions options, int phase, 3           LaunchParams currentParams, LaunchParams outParams) { 4 ... 5 // fde start MAGIC WINDOW 6       if(task != null && task.type == MAGIC_ADDITIONAL_WINDOW && source != null 7               && source.getTask() != null 8               && TextUtils.equals(source.getTask().mWindowLayoutAffinity, task.mWindowLayoutAffinity) 9               && source.getTask().type == MAGIC_MAIN_WINDOW) { 10           Rect rect = new Rect(source.getConfiguration().windowConfiguration.getBounds()); 11           if(rect != null ){ 12               rect.offset(rect.right - rect.left, 0); 13               outParams.mBounds.set(rect); 14               return RESULT_CONTINUE; 15           } 16       } 17       // fde end

ActivityTaskManagerService 移动task实际是执行的resizeTask函数,在移动同一应用的平行视察时,同步移动另一个task

1   @Override 2   public boolean resizeTask(int taskId, Rect bounds, int resizeMode) { 3 ... 45               // fde start MAGIC WINDOW 6               if(task.type == MAGIC_MAIN_WINDOW || task.type == MAGIC_ADDITIONAL_WINDOW ){ 7                   Task bMostTask = mRootWindowContainer.getBottomMostTask(); 8                   Task relative = null; 9                   while(bMostTask != null ){ 10                       if( TextUtils.equals(task.affinity, bMostTask.affinity)){ 11                           relative = bMostTask; 12                           break; 13                       } 14                       Task above = mRootWindowContainer.getTaskAbove(bMostTask); 15                       // Slog.e(TAG, "resizeTask: bMostTask=" + bMostTask + " above=" + above); 16                       bMostTask = above; 17                   } 18                   if(relative != null && relative != task){ 19                       Rect b = new Rect(bounds); 20                       if(relative.type == MAGIC_ADDITIONAL_WINDOW){ 21                           b.left = b.left + bounds.right - bounds.left; 22                           b.right = b.right + bounds.right - bounds.left; 23                       } else if(relative.type == MAGIC_MAIN_WINDOW){ 24                           b.left = b.left - bounds.right + bounds.left; 25                           b.right = b.right - bounds.right + bounds.left; 26                       } 27                       relative.resize(b, resizeMode, preserveWindow); 28                     } 29               } 30               // fde end

ActivityStackSupervisor 中增加了读入配置文件的代码配置文件如下,即每一个应用有一个主task,其他task显示在他的副task里

1:/ # cat system_ext/etc/magicwindow_config/magic_config.xml 2<?xml version='1.0' encoding='utf-8' standalone='yes' ?> 3<packages> 4<package packagename="com.jingdong.app.mall" main="MainFrameActivity" /> 5<package packagename="com.ss.android.article.news" main="MainActivity" /> 6<package packagename="com.zhihu.android" main="MainActivity" /> 7<package packagename="com.xingin.xhs" main="IndexActivityV2" /> 8<package packagename="com.sina.weibo" main="VisitorMainTabActivity" /> 9<package packagename="com.moji.mjweather" main="MainActivity" /> 10<package packagename="com.kuaishou.nebula" main="HomeActivity" /> 11<package packagename="ctrip.android.view" main="CtripHomeActivity" /> 12<package packagename="com.Qunar" main="MainActivity" /> 13<package packagename="com.tencent.mm" main="LauncherUI" />
窗口层级

在 Android 窗口管理中,所有的窗口都是以树形数据结构进行组织管理的,认知这棵 WMS 的树有助于我们理解窗口的管理和显示,同时,WMS 的层级也决定了其在 SurfaceFlinger 的层级结构,这恰恰决定了它的显示规则。

实际上所有应用的窗口都属于TaskDisplayArea,在TaskDisplayArea内部管理Task的层级是一个列表mTmpNormalStacks,保存的下标就是窗口的层级。

1   // fde start MAGIC WINDOW 2   // reorder if magic window on top 3   private void recheckStackOrdering() { 4       int size = mTmpNormalStacks.size(); 5       if(size == 0 ){ 6           return; 7       } 8       ActivityStack topTask = mTmpNormalStacks.get(size - 1); 9       if(topTask.type == MAGIC_MAIN_WINDOW || topTask.type == MAGIC_ADDITIONAL_WINDOW){ 10           Task magicTask = mRootWindowContainer.findMagicTask(topTask.mWindowLayoutAffinity, 11                   topTask.type == MAGIC_MAIN_WINDOW ? MAGIC_ADDITIONAL_WINDOW : MAGIC_MAIN_WINDOW); 12           if(mTmpNormalStacks.contains(magicTask)){ 13               mTmpNormalStacks.remove(magicTask); 14               mTmpNormalStacks.remove(topTask); 15               mTmpNormalStacks.add((ActivityStack)magicTask); 16               mTmpNormalStacks.add(topTask); 17           } 18       } 19   } 20   // fde end

经过这些改动,基本实现了如下效果:

另外,对微信进行操作的时候,发现微信的LaunchUI上不能多次点击,推测是在freeform模式生命周期的问题,在ActivityTaskManagerService中强制执行一次pauseActivity

1     @Override 2   public final void activityIdle(IBinder token, Configuration config, boolean stopProfiling) { 3   ... 45 // fde start MAGIC WINDOW       6               // com.tencent.mm LaunchUI need a pause lifecycle to ensure focus update 7               if(task.type == MAGIC_ADDITIONAL_WINDOW && task.affinity.contains("com.tencent.mm")){ 8                   Task magicMainTask = mRootWindowContainer.findMagicTask(task.mWindowLayoutAffinity, MAGIC_MAIN_WINDOW); 9                   if(magicMainTask != null && magicMainTask.getTopNonFinishingActivity() != null ){ 10                       magicMainTask.getTopNonFinishingActivity().pauseActivityLockedOnly(true); 11                   } 12               } 13               // fde end

ActivityRecord执行最小功能的PauseActivity

12   void pauseActivityLockedOnly(boolean preserveWindow) { 3       try { 4           final ActivityLifecycleItem lifecycleItem = PauseActivityItem.obtain(); 5           final ClientTransaction transaction = ClientTransaction.obtain(app.getThread(), appToken); 6           transaction.setLifecycleStateRequest(lifecycleItem); 7           mAtmService.getLifecycleManager().scheduleTransaction(transaction); 8           // Note: don't need to call pauseIfSleepingLocked() here, because the caller will only 9           // request resume if this activity is currently resumed, which implies we aren't 10           // sleeping. 11           removePauseTimeout(); 12           setState(PAUSED, "relaunchActivityLockedOnly"); 13       } catch (RemoteException e) { 14           if (DEBUG_SWITCH || DEBUG_STATES) Slog.i(TAG_SWITCH, "relaunchActivityLockedOnly failed", e); 15       } 16   }
patch

https://github.com/openfde/lineageos_android_frameworks_base/commit/88bd3138fe60a1e97fb532cc558cb3e2ab92365f