paperbot · PL 论文追踪

全部论文 待读 收藏

P2 D2S2: Drag ’n’ Drop Mobile App Screen Search

D2S2:拖拽式移动应用屏幕搜索
FSE Proceedings of the 31st ACM Joint European Software Engineering Conference and Symposium on the Foundations of Software Engineering2023匹配度 1/10 · 论文关注移动应用 UI 屏幕的拖拽式搜索与示例检索,属于软件工程/开发者工具方向,未涉及静态分析、程序语言、浮点程序分析、贝叶斯程序分析或将 LLM/Agent 用于程序分析等核心问题,因此与用户研究方向几乎无关。引用 0 inbox
Soumik Mohian, Tony Tang, Tuan Trinh, Don Dang, Christoph Csallner
crossref: 2026-09-12dblp: 2026-09-12

AI 速览

一句话:提出支持视觉与文本查询的拖拽式移动应用屏幕搜索工具 D2S2,可交互迭代检索 UI 示例。

公开数据集缺少多样的 UI 元素表示,限制了基于草图的交互式移动搜索的可扩展性。本文提出 D2S2,一种拖拽式移动应用屏幕搜索方法,支持视觉与文本查询。D2S2 在 58k 个 Rico 屏幕中,根据 UI 元素的类型、位置、形状和文本等属性检索相关 UI 示例,并允许用户迭代修改查询、动态更新结果。作者用 10 名新手软件开发者进行评估:在 19 次尝试中,15 次能在一分钟内于前 20 条结果中找到目标屏幕。该工具已在线开放,并提供开源实现与演示视频。

问题
公开数据集中的 UI 元素表示缺乏多样性,导致基于草图的交互式移动应用搜索难以扩展。
方法
D2S2 通过拖拽式查询支持视觉和文本输入,在 58k 个 Rico 屏幕中按 UI 元素类型、位置、形状和文本进行检索,并在每次修改查询时更新结果。
评估
对 10 名新手开发者进行用户研究,19 次尝试中 15 次在一分钟内从 top-20 结果中找到目标屏幕。
原文摘要(Abstract)

The lack of diverse UI element representations in publicly available datasets hinders the scalability of sketch-based interactive mobile search. This paper introduces D2S2, a novel approach that addresses this limitation via drag-and-drop mobile screen search, accommodating visual and text-based queries. D2S2 searches 58k Rico screens for relevant UI examples based on UI element attributes, including type, position, shape, and text. In an evaluation with 10 novice software developers D2S2 successfully retrieves target screens within the top-20 search results in 15/19 attempts within a minute. The tool offers interactive and iterative search, updating its search results each time the user modifies the search query. Interested users can freely access D2S2 (http://pixeltoapp.com/D2S2), build on D2S2 or replicate results via D2S2’s open-source implementation (https://github.com/toni-tang/D2S2), or watch D2S2’s video demonstration (https://youtu.be/fdoYiw8lAn0).

链接与引用

DOI 原文 · PDF(开放获取) · DBLP

BibTeX
@inproceedings{MohianTTDC23,
  title = {D2S2: Drag ’n’ Drop Mobile App Screen Search},
  author = {Soumik Mohian and Tony Tang and Tuan Trinh and Don Dang and Christoph Csallner},
  booktitle = {FSE},
  year = {2023},
  doi = {10.1145/3611643.3613100}
}