| { |
| "examples": [ |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是QQ音乐App部分功能的操作。\n你的任务是：从QQ音乐App的推荐首页开始，在QQ音乐App中搜索出\"晴天\"。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"搜索框\"}, {\"type\": \"text\", \"text\": \"一半一半\"}]}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"晴天\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"搜索\"}, {\"type\": \"text\", \"text\": \"第二个选项\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 309, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601201818_9.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是谷歌浏览器部分功能的操作。\n你的任务是：从视频起始所示页面开始，直接在谷歌浏览器中搜索出\"土豆红烧肉教程\"，然后进入\"短视频\"分类。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"按下\", \"object\": {\"type\": \"text\", \"text\": \"enter\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Short videos\"}, {\"type\": \"text\", \"text\": \"短视频\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 327, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601211759_27.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是safari浏览器部分功能的操作。\n你的任务是：从桌面开始，在Safari浏览器内输入网址\"www.chnmuseum.cn\"。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"safari\"}}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"www.chnmuseum.cn\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 329, |
| "devices": "macOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601201818_29.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是safari浏览器部分功能的操作。\n你的任务是：从桌面开始，打开Safari浏览器，在搜索栏输入\"2025年福布斯排行榜\"并通过回车进行搜索，然后打开进入第一条搜索结果。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"safari\"}}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"2025年福布斯排行榜\"}}, {\"action\": \"按下\", \"object\": {\"type\": \"text\", \"text\": \"enter\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"第一条搜索结果\"}, {\"type\": \"text\", \"text\": \"2025年福布斯全球亿万富豪榜\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 330, |
| "devices": "macOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601201818_30.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是EXCEL部分功能的操作。\n你的任务是：已知现在已选中单元格A1到A10，请按照视频中的操作方式，将选中内容按照以下顺序进行设置：先将所有字体加粗，然后倾斜，最后将对齐方式设置为向左对齐。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"加粗\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"倾斜\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"左对齐\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 352, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601211638_52.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是excel部分功能的操作。\n你的任务是：从桌面上打开名为\"语文\"的excel文档，在文档的A1单元格内输入\"语文\"，然后在B1单元格内输入\"数学\"。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"双击\", \"object\": {\"type\": \"text\", \"text\": \"语文.xlsx\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"A1单元格\"}, {\"type\": \"text\", \"text\": \"第一个单元格\"}]}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"语文\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"B1单元格\"}}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"数学\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 355, |
| "devices": "macOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601201818_55.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是网页版网易邮箱部分功能的操作。\n你的任务是：从视频起始所示画面开始，打开网易邮箱的收件箱。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"滑动\", \"object\": {\"type\": \"text\", \"text\": \"下\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Inbox\"}, {\"type\": \"text\", \"text\": \"收件箱\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 359, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601211638_59.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是QQ邮箱网页版部分功能的操作。\n你的任务是：从视频起始所示页面开始，选择一张主题为生日快乐的贺卡，进入贺卡邮件发送页面。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Greeting card\"}, {\"type\": \"text\", \"text\": \"贺卡\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"生日快乐贺卡\"}, {\"type\": \"text\", \"text\": \"HAPPY BIRTHDAY贺卡\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"Select the Card\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 362, |
| "devices": "macOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601201818_62.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是QQ APP部分功能的操作。\n你的任务是：从桌面开始，通过QQ APP进入QQ邮箱页面。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"QQ\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"QQ邮箱\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 364, |
| "devices": "macOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601201818_64.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是QQ邮箱APP部分功能的操作。\n你的任务是：从桌面开始，进入QQ邮箱App中的垃圾箱页面。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"QQ邮箱\"}}, {\"action\": \"滑动\", \"object\": {\"type\": \"text\", \"text\": \"上\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"垃圾箱\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 366, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601201818_66.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是美团APP部分功能的操作。\n你的任务是：从视频起始所示页面开始，筛选出所有角膜眼表科医生。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"全部\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"眼科\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"角膜眼表科\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 653, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601231418_353.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是飞书APP部分功能的操作。\n你的任务是：从桌面开始，通过任务栏调出已打开的\"飞书\"APP，按照视频所示的发送图片方式，向当前对话框中的联系人发送图片，图片为\"下载\"文件夹中今天下载的图片。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"飞书\"}, {\"type\": \"text\", \"text\": \"Feishu\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Expend\"}, {\"type\": \"text\", \"text\": \"展开\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Image&video\"}, {\"type\": \"text\", \"text\": \"图片\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Downloads\"}, {\"type\": \"text\", \"text\": \"下载\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"第一张图片\"}, {\"type\": \"text\", \"text\": \"风景\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Open\"}, {\"type\": \"text\", \"text\": \"打开\"}]}, {\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"send\"}, {\"type\": \"text\", \"text\": \"发送\"}, {\"type\": \"text\", \"text\": \"飞机\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 373, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601211638_73.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是QQ APP部分功能的操作。\n你的任务是：从桌面开始，给QQ app中的好友\"123\"发送消息\"今晚打球吗？\"。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"QQ\"}}, {\"action\": [\"双击\", \"双击\"], \"object\": [{\"type\": \"text\", \"text\": \"123\"}, {\"type\": \"text\", \"text\": \"第一个好友\"}]}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"今晚打球吗？\"}}, {\"action\": \"按下\", \"object\": {\"type\": \"text\", \"text\": \"enter\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 376, |
| "devices": "macOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601211638_76.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是微信APP部分功能的操作。\n你的任务是：从桌面进入微信App，打开置顶第一个好友聊天界面，发送系统默认的\"微笑\"表情。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"微信\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"123\"}, {\"type\": \"text\", \"text\": \"第一个好友\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"表情钮\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"微笑表情\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"发送\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 379, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601211638_79.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是飞书app部分功能的操作。\n你的任务是：从桌面打开飞书APP，进入我和\"RR\"的聊天界面发送消息内容\"今天下午六点的会议取消，辛苦同步给其他参会人员\"。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"飞书\"}, {\"type\": \"text\", \"text\": \"Feishu\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"RR\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"输入框\"}}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"今天下午六点的会议取消，辛苦同步给其他参会人员\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"发送\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 382, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601211638_82.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是微信APP部分功能的操作。\n你的任务是：从桌面开始，进入微信App，打开视频号后进入推荐频道。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"微信\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Channels\"}, {\"type\": \"text\", \"text\": \"视频号\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"推荐\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 388, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601211638_88.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是哔哩哔哩APP部分功能的操作。\n你的任务是：从哔哩哔哩推荐首页开始，输入搜索\"蜡笔小新\"，并进入专栏分类。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"搜索框\"}, {\"type\": \"text\", \"text\": \"搜索你感兴趣的视频\"}]}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"蜡笔小新\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"搜索\"}, {\"type\": \"text\", \"text\": \"放大镜\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"专栏\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 393, |
| "devices": "macOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601211638_93.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是微博 APP部分功能的操作。\n你的任务是：从桌面打开微博APP，直接跳过广告，然后在\"发现\"页面搜索\"如何预防甲流\"相关微博。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"微博\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"跳过\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"发现\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"搜索框\"}}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"如何预防甲流\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"搜索\"}, {\"type\": \"text\", \"text\": \"如何预防甲流\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 398, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601211638_98.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是小红书 APP部分功能的操作。\n你的任务是：从视频起始所示页面开始，进入第一个与昆明相关的帖子，然后收藏该帖子。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"这一刻，很昆明!\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"星星\"}, {\"type\": \"text\", \"text\": \"收藏\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 399, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601211639_99.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频1是猫眼电影小程序中部分功能的操作。\n你的任务是：从视频初始页面开始，在\"电影/影院\"页面进入最近的一个电影院。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"电影\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"第一家影院\"}, {\"type\": \"text\", \"text\": \"上影国际影城（成都银泰LUXE店）\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 610, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601211531_310.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频1是快手APP中部分功能的操作。\n你的任务是：从视频初始页面开始，搜索行李箱，并筛选出销量最高的行李箱产品列表。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"放大镜\"}, {\"type\": \"text\", \"text\": \"搜索\"}]}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"行李箱\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Search\"}, {\"type\": \"text\", \"text\": \"搜索\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Goods\"}, {\"type\": \"text\", \"text\": \"商品\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"Sales]单击 [销量\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 406, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601231052_106.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是小红书APP部分功能的操作。\n你的任务是：从视频起始所示页面开始，打开查看\"Video\"频道内第一条笔记。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"滑动\", \"object\": {\"type\": \"text\", \"text\": \"下\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"Video\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"第一条笔记\"}, {\"type\": \"text\", \"text\": \"种一颗车厘子树，就能实现车厘子自由！\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 411, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601231420_111.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频1是哔哩哔哩APP中部分功能的操作。\n你的任务是：从视频初始页面开始，筛选出当前搜索词下粉丝数最高的用户并关注。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"用户\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"粉丝数由高到低\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"第一个+关注\"}, {\"type\": \"text\", \"text\": \"第一个用户的+关注\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 412, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601211459_112.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频1是抖音APP中部分功能的操作。\n你的任务是：从视频初始页面开始，打开抖音热榜的置顶内容。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"搜索\"}, {\"type\": \"text\", \"text\": \"放大镜\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"抖音热榜\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"十五五开局之年第一课\"}, {\"type\": \"text\", \"text\": \"热榜置顶\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 413, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601211507_113.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频1是小红书APP中部分功能的操作。\n你的任务是：从视频初始页面开始，在设置中打开深色模式。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"Me\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"设置\"}, {\"type\": \"text\", \"text\": \"齿轮\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"General\"}, {\"type\": \"text\", \"text\": \"通用\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Dark Mode\"}, {\"type\": \"text\", \"text\": \"深色模式\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Dark Mode开关\"}, {\"type\": \"text\", \"text\": \"第一个开关\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 968, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601211723_668.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频1是抖音网页版中部分功能的操作。\n你的任务是：从视频初始页面开始，收藏\"肉桂金丝熊长什么样\"搜索综合页第一个视频，然后评论\"它吃的多吗？\"，要求除了输入文字其余操作全部使用鼠标完成。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"综合\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"第一个视频\"}, {\"type\": \"text\", \"text\": \"可以随便rua的波利小奶熊\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"收藏\"}, {\"type\": \"text\", \"text\": \"星星\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"评论\"}}, {\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"评论框\"}, {\"type\": \"text\", \"text\": \"评论输入框\"}, {\"type\": \"text\", \"text\": \"留下你的精彩评论吧\"}]}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"它吃的多吗？\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"发送\"}, {\"type\": \"text\", \"text\": \"上箭头\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 428, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601211420_128.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频1是58同城pp中部分功能的操作。\n你的任务是：从视频初始页面开始，筛选出车龄在两年以内的\"奥迪\"二手车，并和第一个商品的商家聊一聊。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"品牌\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"奥迪\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"第一个商品\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"聊一聊\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 472, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601221755_172.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是照片APP部分功能的操作。\n你的任务是：从桌面开始，通过启动台打开\"照片\"APP，打开名为\"雪\"的相簿，按照视频所示方式将该相簿中的图片进行幻灯片放映。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"启动台\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"照片\"}}, {\"action\": \"右击\", \"object\": {\"type\": \"text\", \"text\": \"雪\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"播放幻灯片\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 437, |
| "devices": "macOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601221708_137.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频1是Windows系统文件夹内部分功能的操作。\n你的任务是：从桌面开始，打开新建文件夹，并将其中的文件按照修改日期排序。", |
| "target": "{\"actions\": [{\"action\": [\"双击\", \"双击\"], \"object\": [{\"type\": \"text\", \"text\": \"New folder\"}, {\"type\": \"text\", \"text\": \"新建文件夹\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Sort\"}, {\"type\": \"text\", \"text\": \"排序\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"More\"}, {\"type\": \"text\", \"text\": \"更多\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Date modified\"}, {\"type\": \"text\", \"text\": \"修改日期\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 438, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601211426_138.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是PC端部分功能的操作。\n你的任务是：从桌面开始，打开\"work docs\"文件夹，按视频所示方式将该文件夹内的word文档打包成压缩包。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"双击\", \"object\": {\"type\": \"text\", \"text\": \"work docs\"}}, {\"action\": \"右击\", \"object\": {\"type\": \"text\", \"text\": \"小故事\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"压缩“小故事.docx”\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 443, |
| "devices": "macOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601221708_143.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是Word APP和备忘录 APP部分功能的操作。\n你的任务是：从桌面开始，打开名为\"大熊猫.docx\"的文档，按照视频所示方式选中并复制第一段内容，然后直接打开程序坞中的备忘录 App，新建一个备忘录。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"双击\", \"object\": {\"type\": \"text\", \"text\": \"大熊猫\"}}, {\"action\": [\"三击\", \"三击\"], \"object\": [{\"type\": \"text\", \"text\": \"第一段\"}, {\"type\": \"text\", \"text\": \"大熊猫（学名：Ailuropoda melanoleuca）属于熊科、大熊猫属哺乳动物，是中国特有种。仅有两个亚种，四川亚种和秦岭亚种。雌性比雄性小10-20％。头躯长1.2-1.8米，尾长10-12厘米。体重80-120千克，最重可达180千克。体型肥硕似熊、丰腴富态。头圆、体肥、尾短。体色为黑白两色，眼圈、耳壳、肩和四肢为深黑色外，其余部分均为乳白色。脸颊圆，有很大的“黑眼圈”，标志性的内八字的行走方式，也有解剖刀般锋利的爪子。大熊猫皮肤厚，最厚处可达10毫米。\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Copy\"}, {\"type\": \"text\", \"text\": \"复制\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"备忘录\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Create a note\"}, {\"type\": \"text\", \"text\": \"新建备忘录\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 446, |
| "devices": "macOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601221708_146.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频1是WPS app中部分功能的操作。\n你的任务是：从视频初始页面开始，将A3文档的纸张大小通过上方工具栏设置为大16开。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"A3\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"页面\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"纸张大小\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"大16开\"}, {\"type\": \"text\", \"text\": \"21厘米x28.5厘米\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 447, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601211355_147.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频1是excel中部分功能的操作。\n你的任务是：从视频初始页面开始，将选中的行填充为标准色红色，然后将该表格另存在桌面上的\"统计\"文件夹内。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"填充颜色下拉符\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"红色\"}, {\"type\": \"text\", \"text\": \"标准色内第二个颜色\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"另存为\"}}, {\"action\": \"滑动\", \"object\": {\"type\": \"text\", \"text\": \"上\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"统计\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"存储\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 452, |
| "devices": "macOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601221445_152.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频1是文件夹和Numbers表格中部分功能的操作。\n你的任务是：从视频初始页面开始，将文件夹Work Docs内的图表文件打开后，复制其中的统计图，然后最小化图表。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"双击\", \"object\": {\"type\": \"text\", \"text\": \"Work Docs\"}}, {\"action\": \"双击\", \"object\": {\"type\": \"text\", \"text\": \"Q3图表\"}}, {\"action\": [\"右击\", \"右击\"], \"object\": [{\"type\": \"text\", \"text\": \"统计图\"}, {\"type\": \"text\", \"text\": \"上面的图表\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"拷贝\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"最小化\"}, {\"type\": \"text\", \"text\": \"黄色圆圈\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 453, |
| "devices": "macOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601221511_153.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频1是淘宝官网中部分功能的操作。\n你的任务是：从视频初始页面开始，打开淘宝秒杀的美妆品类。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"淘宝秒杀\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"美妆\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 458, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601211118_158.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频1是淘宝官网中部分功能的操作。\n你的任务是：从视频初始页面开始，筛选出品牌奥丁的狗粮，然后将第一个奥丁狗粮收藏。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"品牌\"}}, {\"action\": \"滑动\", \"object\": {\"type\": \"text\", \"text\": \"上\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"奥丁\"}}, {\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"第一个商品\"}, {\"type\": \"text\", \"text\": \"第一个狗粮\"}, {\"type\": \"text\", \"text\": \"第一个奥丁狗粮\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"收藏\"}, {\"type\": \"text\", \"text\": \"星星\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 461, |
| "devices": "macOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601261048_161.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频1是淘宝官网中部分功能的操作。\n你的任务是：从视频初始页面开始，打开百亿补贴板界面，将玩具潮玩分类下第二个商品收藏。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"百亿补贴\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"玩具潮玩\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"第二个商品\"}, {\"type\": \"text\", \"text\": \"悠童语 画板儿童黑板家用液晶\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"收藏\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 463, |
| "devices": "macOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601211634_163.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是阿里巴巴APP部分功能的操作。\n你的任务是：从视频起始所示页面开始，输入搜索\"周杰伦专辑\"。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"搜索框\"}, {\"type\": \"text\", \"text\": \"Digital accessories\"}]}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"周杰伦专辑\"}}, {\"action\": [\"单击\", \"按下\"], \"object\": [{\"type\": \"text\", \"text\": \"GO\"}, {\"type\": \"text\", \"text\": \"Enter\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 465, |
| "devices": "macOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601221708_165.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频1是京东app中部分功能的操作。\n你的任务是：从视频初始页面开始，在品牌筛选内选出所有雅诗兰黛的口红，并打开第一个商品页面。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"滑动\", \"object\": {\"type\": \"text\", \"text\": \"左\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"品牌\"}}, {\"action\": \"滑动\", \"object\": {\"type\": \"text\", \"text\": \"上\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"雅诗兰黛\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"第一个商品\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 473, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601211021_173.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频1是腾讯新闻app中部分功能的操作。\n你的任务是：从视频初始页面开始，打开娱乐板块电影分类的第一条电影精选。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"滑动\", \"object\": {\"type\": \"text\", \"text\": \"左\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"娱乐\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"电影\"}}, {\"action\": [\"单击\", \"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"第一条电影精选\"}, {\"type\": \"text\", \"text\": \"电影精选\"}, {\"type\": \"text\", \"text\": \"2026开年灾难巨制\"}, {\"type\": \"text\", \"text\": \"末日逃生2：迁移\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 418, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601221719_118.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频1是淘宝app中部分功能的操作。\n你的任务是：从视频初始页面开始，筛选出所有包邮的钢笔，然后选择第一个商品收藏。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"筛选\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"包邮\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"确定\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"第一个商品\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"收藏\"}, {\"type\": \"text\", \"text\": \"星星\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 493, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601210955_193.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频1是京东app中部分功能的操作。\n你的任务是：从视频初始页面开始，输入搜索\"蓝牙耳机\"并按销量排序，然后筛选出可全球配送的所有耳机商品。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"输入框\"}, {\"type\": \"text\", \"text\": \"Search products\"}]}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"蓝牙耳机\"}}, {\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"搜索\"}, {\"type\": \"text\", \"text\": \"放大镜\"}, {\"type\": \"text\", \"text\": \"蓝牙耳机词条\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"Sales\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"Filter\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"Global shipping\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"Confirm\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 494, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601201742_194.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频1是百度地图app中部分功能的操作。\n你的任务是：从视频初始页面开始，设置百度地图app为\"搜索框在下方\"。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"设置\"}, {\"type\": \"text\", \"text\": \"齿轮\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"首页设置\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"\\\"搜索框\\\"在下方\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 970, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601221147_670.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是美团APP部分功能的操作。\n你的任务是：从美团桌面开始，打开美团app，进入\"美食\"频道，在筛选下拉选栏中按以下顺序和要求筛选出符合所有条件的美食餐厅：营业中、双人餐、神券商家、必吃榜。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"美团\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"美食\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"筛选\"}, {\"type\": \"text\", \"text\": \"漏斗\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"营业中\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"双人餐\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"神券商家\"}}, {\"action\": \"滑动\", \"object\": {\"type\": \"text\", \"text\": \"上\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"必吃榜\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"完成\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 512, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601231418_212.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频1是美团app中部分功能的操作。\n你的任务是：从视频初始页面开始，查询1月22日广州到昆明的所有火车信息，要求从上往下填写信息。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"机票火车票\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"火车票\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"成都\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"广州\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"1月25日\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"22初四\"}, {\"type\": \"text\", \"text\": \"1月22\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"找火车票\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 526, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601201633_226.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是edge浏览器中部分功能的操作。\n你的任务是：从桌面开始，打开edge浏览器搜索\"考公复习方法\"并筛选视频结果，然后再筛选长度大于20分钟的视频，最后打开列表第一个结果。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"edge\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"搜索框\"}, {\"type\": \"text\", \"text\": \"搜索或键入URL\"}]}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"考公复习方法\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"开始\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"视频\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"长(＞20分钟)\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"第一个视频\"}, {\"type\": \"text\", \"text\": \"第一个结果\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 930, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601221048_630.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是美团app中部分功能的操作。\n你的任务是：从视频起始页面开始，进入团购频道中的休闲玩乐分类，并筛选出全部棋牌室。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"团购\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"休闲玩乐\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"全部分类\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"棋牌室\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"全部棋牌室\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 541, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601221110_241.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频1是美团app中部分功能的操作。\n你的任务是：从视频初始页面开始，收藏团购频道中休闲玩乐分类列表的第一个KTV商品。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"团购\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"休闲玩乐\"}}, {\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"第二个商品\"}, {\"type\": \"text\", \"text\": \"第一个KTV商品\"}, {\"type\": \"text\", \"text\": \"梦缘KTV\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"收藏\"}, {\"type\": \"text\", \"text\": \"星星\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 542, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202512161825_242.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是美团app中部分功能的操作。\n你的任务是：从视频起始页面开始，进入打车功能中的餐饮订座，进入\"优惠预订\"第一家餐饮店。", |
| "target": "{\"actions\": [{\"action\": \"滑动\", \"object\": {\"type\": \"text\", \"text\": \"左\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"打车\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"餐饮订座\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"大叔烤肉\"}, {\"type\": \"text\", \"text\": \"第一家店\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 550, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601221131_250.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是Excel部分功能的操作。\n你的任务是：从视频起始所示页面开始，选中第二行后打开筛选功能。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"行号2\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"筛选\"}, {\"type\": \"text\", \"text\": \"漏斗\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 564, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601231418_264.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是网易邮箱大师APP部分功能的操作。\n你的任务是：从视频起始所示页面开始，打开网易邮箱大师APP，将\"收件箱\"中的第一封邮件标记为明天9:00置顶待办。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"网易邮箱大师\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"收件箱\"}}, {\"action\": [\"右击\", \"右击\"], \"object\": [{\"type\": \"text\", \"text\": \"网易邮件中心\"}, {\"type\": \"text\", \"text\": \"第一封邮件\"}]}, {\"action\": \"悬停\", \"object\": {\"type\": \"text\", \"text\": \"标为置顶待办\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"明天\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 573, |
| "devices": "macOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601221708_273.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是网易邮箱网页版部分功能的操作。\n你的任务是：从视频起始所示页面开始，打开\"收件箱\"中的第一封邮件。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"收件箱\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"第一封邮件\"}, {\"type\": \"text\", \"text\": \"网易邮件中心\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 574, |
| "devices": "macOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601221708_274.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是QQ邮箱APP部分功能的操作。\n你的任务是：从QQ邮箱APP内已打开的收件箱页面开始，通过管理功能一键全选所有邮件。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"管理\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"全选\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 575, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601221708_275.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是闲鱼APP部分功能的操作。\n你的任务是：从视频起始所示页面开始，直接筛选出1天内发布的电动车商品。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"筛选\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"1天内\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"查看全部\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 491, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601221708_191.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是safari浏览器部分功能的操作。\n你的任务是：从视频起始所示页面开始，新建一个起始页并在其中搜索\"苏超球赛\"。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"+\"}, {\"type\": \"text\", \"text\": \"加号\"}]}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"苏超球赛\"}}, {\"action\": \"按下\", \"object\": {\"type\": \"text\", \"text\": \"Enter\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 317, |
| "devices": "macOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601231418_17.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频1是微信app中部分功能的操作。\n你的任务是：从视频初始页面开始，将微信的字体大小通过点击设置为最大。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"我\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"设置\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"界面与显示\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"字体大小\"}}, {\"action\": [\"单击\", \"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"最大号字体\"}, {\"type\": \"text\", \"text\": \"最右侧A\"}, {\"type\": \"text\", \"text\": \"最大的A\"}, {\"type\": \"text\", \"text\": \"最大字体\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"完成]7.end\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 971, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601221706_671.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频1是Safari浏览器和微博官网中部分功能的操作。\n你的任务是：从视频初始页面开始，发一条内容为\"Work\"的公开微博。请为目标任务输出正确的动作规划。\"", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"输入框\"}, {\"type\": \"text\", \"text\": \"发布框\"}, {\"type\": \"text\", \"text\": \"有什么新鲜事儿想分享给大家？\"}]}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"Work\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"发送\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 598, |
| "devices": "macOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601221621_298.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是小红书APP部分功能的操作。\n你的任务是：从视频起始所示页面开始，直接搜索出\"怪奇物语\"全部笔记，然后进入全部笔记中的\"神图\"分类。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"搜索\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"神图\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 599, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601221708_299.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是快手极速版APP部分功能的操作。\n你的任务是：从快手极速版首页开始，进入我的粉丝列表。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"我\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"粉丝\"}, {\"type\": \"text\", \"text\": \"11\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 600, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601231538_300.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频1是微博app中部分功能的操作。\n你的任务是：从视频初始页面开始，转发\"就爱用颜文字喵喵喵\"搜索结果页第一条微博，并只配文\"码住\"即可。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"滑动\", \"object\": {\"type\": \"text\", \"text\": \"上\"}}, {\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"第一条微博的转发\"}, {\"type\": \"text\", \"text\": \"转发393\"}, {\"type\": \"text\", \"text\": \"转发\"}]}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"码住\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"发送\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 601, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601201347_301.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频1是小红书app中部分功能的操作。\n你的任务是：从视频初始页面开始，打开女生冬季穿搭的小个子分类列表下的第一条帖子，点赞后收藏。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"小个子\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"第一条帖子\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"点赞\"}, {\"type\": \"text\", \"text\": \"爱心\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"收藏\"}, {\"type\": \"text\", \"text\": \"星星\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 602, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601201357_302.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是美团APP部分功能的操作。\n你的任务是：从视频起始所示页面开始，进入即将上映影区，并直接将影片\"年年岁岁\"标记为想看。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"即将上映\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"想看\"}, {\"type\": \"text\", \"text\": \"年年岁岁想看\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 605, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601231450_305.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频1是美团app中部分功能的操作。\n你的任务是：从视频初始页面开始，在跑腿内把城市定位改为深圳。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"跑腿\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"成都\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"深圳\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 628, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601201321_328.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频1是美团app中部分功能的操作。\n你的任务是：从视频初始页面开始，打开跑腿频道内的\"送数码\"页面。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"跑腿\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"送数码\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 634, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601201124_334.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频1是美团app中部分功能的操作。\n你的任务是：从视频初始页面开始，在自营大药房内通过输入搜索\"奥司他韦\"，将奥司他韦的原研好药列表中第一个商品加入购物车。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"自营大药房\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"搜索框\"}}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"奥司他韦\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"搜索\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"原研好药\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"第一个商品的加入购物车\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 650, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601191836_350.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是美团app中部分功能的操作。\n你的任务是：从视频初始页面开始，打开儿童用药中的退热贴分类列表。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"儿童用药\"}, {\"type\": \"text\", \"text\": \"布洛芬\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"退热贴\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 652, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601231538_352.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频1是携程旅游官网中部分功能的操作。\n你的任务是：从视频初始页面开始，按照页面从上往下的顺序填写信息，搜索三亚2026年2月14日-2026年2月16日的所有四星级酒店，然后再在酒店列表筛选出所有海景房。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"入住\"}, {\"type\": \"text\", \"text\": \"2月2日\"}, {\"type\": \"text\", \"text\": \"周一\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"2月14\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"2月16\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"酒店级别\"}, {\"type\": \"text\", \"text\": \"四星（钻）、五星（...\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"五星（钻）\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"确定\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"搜索\"}}, {\"action\": \"滑动\", \"object\": {\"type\": \"text\", \"text\": \"上\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"海景房\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 654, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601191808_354.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频1是\"中国铁路12306\"网站中部分功能的操作。\n你的任务是：从视频初始页面开始，查询长沙到杭州2026年1月31日所有的单程高铁/动车信息，要求所需信息在信息填写页面从上往下依次选择填写。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"出发地\"}, {\"type\": \"text\", \"text\": \"上海\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"长沙\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"杭州\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"出发日期]单击 [2026-01-19\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"31\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"高铁\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"查询\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 656, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601191731_356.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频1是Safari浏览器中打开的携程旅游官网部分功能的操作。\n你的任务是：从视频初始页面开始，进入旅游板块\"热门推荐\"的第一个景点的商品页面，将搜索结果按照销量排序后，进入第一条结果的详情页。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"九寨沟\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"销量优先\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"第一个商品\"}, {\"type\": \"text\", \"text\": \"第一条商品\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 666, |
| "devices": "macOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601221636_366.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频1是Safari浏览器中以及携程旅游官网的部分功能的操作。\n你的任务是：从视频起始页面开始，通过Safari浏览器以最便捷的方式进入携程旅游官网，并允许该网站使用当前的位置。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"Safari浏览器\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"携程\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"允许\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 670, |
| "devices": "macOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601191601_370.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频1是微信app中的部分功能的操作。\n你的任务是：从视频起始页面开始，通过使用微信自带的语音转文字功能打开话筒权限。要求使用最便捷的操作到打开话筒权限即可。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"话筒\"}, {\"type\": \"text\", \"text\": \"麦克风\"}, {\"type\": \"text\", \"text\": \"Voice Input\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"Go to Settings\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Microphone右侧对应的开关条\"}, {\"type\": \"text\", \"text\": \"Microphone开关\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 675, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601191501_375.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是抖音极速版app和移动端系统设置部分功能的操作。\n你的任务是：从刚打开抖音极速版app的页面开始，在系统设置app里开启WLAN功能。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"滑动\", \"object\": {\"type\": \"text\", \"text\": \"上\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"设置\"}, {\"type\": \"text\", \"text\": \"齿轮\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"WLAN\"}}, {\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"使用WLAN\"}, {\"type\": \"text\", \"text\": \"第一项\"}, {\"type\": \"text\", \"text\": \"开关\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 683, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601231538_383.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频1是微信app中的拼多多小程序的部分功能的操作。\n你的任务是：从拼多多小程序的个人中心页面开始，查找收藏列表中第一个商品的相似产品，然后打开第一个相似产品的详情页面。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"商品收藏\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"第一个商品的更多\"}, {\"type\": \"text\", \"text\": \"第一个更多\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"找相似\"}}, {\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"实木智能浴室镜柜\"}, {\"type\": \"text\", \"text\": \"相似商品下第一件商品\"}, {\"type\": \"text\", \"text\": \"第一个相似商品\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 688, |
| "devices": "macOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601231309_388.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频1是Google浏览器中京东官网部分功能的操作。\n你的任务是：从视频初始页面开始，在京东首页输入搜索\"勃肯鞋\"，将搜索出的第一件商品的黄色的最大码加入购物车。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"搜索框\"}}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"勃肯鞋\"}}, {\"action\": [\"单击\", \"按下\"], \"object\": [{\"type\": \"text\", \"text\": \"搜索\"}, {\"type\": \"text\", \"text\": \"Enter\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"第一件商品\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"尺码44\"}, {\"type\": \"text\", \"text\": \"最大尺码选项\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"加入购物车\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 692, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601191654_392.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是淘宝app中部分功能的操作。\n你的任务是：从\"雪中飞云朵系列\"搜索结果页面开始，将列表中第一个商品的最小码的蓝色加入购物车。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"第一件商品\"}, {\"type\": \"text\", \"text\": \"云朵泡芙羽绒服\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"加入购物车\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"155\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"加入购物车\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 696, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601191423_396.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频1是微信app中部分功能的操作。\n你的任务是：从视频中刚打开微信app的页面开始，将微信聊天列表中第一个联系人聊天框内的最近一个文件直接保存在桌面上名为\"Feishu\"的文件夹内。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"fine\"}, {\"type\": \"text\", \"text\": \"fine联系人的聊天框\"}]}, {\"action\": [\"右击\", \"右击\"], \"object\": [{\"type\": \"text\", \"text\": \"最近的文件消息\"}, {\"type\": \"text\", \"text\": \"全球主流社交平台-月活用户及特色功能\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"另存为\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"Feishu\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"打开(O)\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"保存(S)\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 698, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601191331_398.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频1是微信app中部分功能的操作。\n你的任务是：从视频初始页面开始，将微信好友德克士手枪腿君最新发送的图片，通过鼠标复制粘贴到桌面上的\"瑞幸\"文件夹内（按照视频中的粘贴方式）。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"右击\", \"右击\", \"右击\"], \"object\": [{\"type\": \"text\", \"text\": \"最近一张图片\"}, {\"type\": \"text\", \"text\": \"德克士广告图片\"}, {\"type\": \"text\", \"text\": \"德克士图片\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"复制\"}}, {\"action\": \"双击\", \"object\": {\"type\": \"text\", \"text\": \"瑞幸\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"粘贴\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 699, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601231348_399.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频1是WPS app中部分功能的操作。\n你的任务是：从视频初始页面开始，将已经复制的图片通过鼠标\"粘贴\"到\"猴子\"文档中，接着直接输入文本\"猴子简介\"。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"右击\", \"右击\"], \"object\": [{\"type\": \"text\", \"text\": \"空白处\"}, {\"type\": \"text\", \"text\": \"文档编辑区域\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"粘贴\"}}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"猴子简介\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 701, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601221138_401.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频1是微信app中部分功能的操作。\n你的任务是：从视频初始页面开始，给微信视频号内关注页面的第一个视频点赞。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"视频号\"}, {\"type\": \"text\", \"text\": \"Channels\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"关注\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"点赞\"}, {\"type\": \"text\", \"text\": \"拇指\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 588, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601231751_288.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是Windows系统的设置中部分功能的操作。\n你的任务是：从设置功能的主页开始，进入显示设置，打开当环境光线变化时自动调整亮度。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"System\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"Display\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"Brightness\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"Change brightness automatically when lighting changes\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 960, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601231137_660.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是QQ APP和哔哩哔哩APP部分功能的操作。\n你的任务是：从桌面开始，打开QQ APP，按视频所示方式复制与好友\"123\"聊天界面中最新一条视频链接消息，然后打开\"哔哩哔哩\"APP，在其搜索栏中粘贴并搜索该视频链接。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"QQ\"}}, {\"action\": \"双击\", \"object\": {\"type\": \"text\", \"text\": \"123\"}}, {\"action\": [\"右击\", \"右击\"], \"object\": [{\"type\": \"text\", \"text\": \"最新一条消息\"}, {\"type\": \"text\", \"text\": \"【蜡笔小新 第八季（中文）】https:\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"复制\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"哔哩哔哩\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"搜索框\"}}, {\"action\": \"按下\", \"object\": {\"type\": \"text\", \"text\": \"command,V\"}}, {\"action\": [\"单击\", \"单击\", \"按下\"], \"object\": [{\"type\": \"text\", \"text\": \"搜索\"}, {\"type\": \"text\", \"text\": \"放大镜\"}, {\"type\": \"text\", \"text\": \"enter\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 708, |
| "devices": "macOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601221708_408.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是微信APP部分功能的操作。\n你的任务是：从视频起始所示页面开始，复制微信 app消息列表中第一个联系人给我发的最新消息。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"第一个联系人\"}, {\"type\": \"text\", \"text\": \"123\"}]}, {\"action\": [\"长按\", \"长按\"], \"object\": [{\"type\": \"text\", \"text\": \"最新一条消息\"}, {\"type\": \"text\", \"text\": \"https:\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Copy\"}, {\"type\": \"text\", \"text\": \"复制].4.end\"}]}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 712, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601231538_412.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是QQ APP部分功能的操作。\n你的任务是：从视频所示起始页面开始，复制QQ列表里的最上方置顶好友发送的最新一条店铺名称。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"第一个联系人\"}, {\"type\": \"text\", \"text\": \"123\"}]}, {\"action\": [\"长按\", \"长按\"], \"object\": [{\"type\": \"text\", \"text\": \"最新一条消息\"}, {\"type\": \"text\", \"text\": \"小小炸鸡店\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"复制\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 715, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601201818_415.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是微信app和淘宝app部分功能的操作。\n你的任务是：从视频所示起始页面开始，将微信app聊天列表中置顶好友最新发送的一张图片保存至相册，然后打开淘宝app。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"第一位置顶好友\"}, {\"type\": \"text\", \"text\": \"123\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"图片\"}, {\"type\": \"text\", \"text\": \"最新一条消息\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"下载\"}}, {\"action\": \"滑动\", \"object\": {\"type\": \"text\", \"text\": \"上\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"淘宝\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 716, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601201818_416.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是PC端部分功能的操作。\n你的任务是：从桌面开始，通过下方任务栏进入系统设置功能，打开查看关于此设备的系统信息。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"开始\"}, {\"type\": \"text\", \"text\": \"Windows\"}]}, {\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Settings\"}, {\"type\": \"text\", \"text\": \"设置\"}, {\"type\": \"text\", \"text\": \"齿轮\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"System\"}, {\"type\": \"text\", \"text\": \"第三个选项\"}]}, {\"action\": \"滑动\", \"object\": {\"type\": \"text\", \"text\": \"上\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"About\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 718, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601201818_418.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是移动端部分功能的操作。\n你的任务是：从视频起始所示页面开始,将旁白功能启动。", |
| "target": "{\"actions\": [{\"action\": \"滑动\", \"object\": {\"type\": \"text\", \"text\": \"上\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"辅助功能\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"旁白\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"旁白开关\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 724, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601191810_424.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是移动端部分功能的操作。\n你的任务是：从手机桌面进入设置，通过个性化设置功能进入\"字体大小\"和\"字体粗细\"的设置页面。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"设置\"}, {\"type\": \"text\", \"text\": \"齿轮\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"个性化设置\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"字体\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 727, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601201051_427.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是移动端系统设置部分功能的操作。\n你的任务是：从手机桌面进入设置，将系统语言设置为中文（简体）。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"设置\"}, {\"type\": \"text\", \"text\": \"齿轮\"}]}, {\"action\": \"滑动\", \"object\": {\"type\": \"text\", \"text\": \"上\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"System and update\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Languages&input\"}, {\"type\": \"text\", \"text\": \"第二个选项\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Langusges\"}, {\"type\": \"text\", \"text\": \"第一个选项\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"中文\"}, {\"type\": \"text\", \"text\": \"第一个选项\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 728, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601201818_428.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是携程APP中部分功能的操作。\n你的任务是：从携程app的首页开始，关闭携程APP内的促销消息通知。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"我的\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"设置\"}, {\"type\": \"text\", \"text\": \"齿轮\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"消息通知\"}, {\"type\": \"text\", \"text\": \"第6个选项\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"促销信息开关\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 731, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601191720_431.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是云闪付app中部分功能的操作。\n你的任务是：从云闪付app我的页面开始，将云闪付app切换至关爱版。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"设置\"}, {\"type\": \"text\", \"text\": \"齿轮\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Switch to the Care version\"}, {\"type\": \"text\", \"text\": \"第7个选项\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"切换至关爱版\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 739, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601191720_439.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是哔哩哔哩app中部分功能的操作。\n你的任务是：从哔哩哔哩app推荐首页开始，在哔哩哔哩app中清理客户端缓存。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"设置\"}}, {\"action\": \"滑动\", \"object\": {\"type\": \"text\", \"text\": \"上\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"清理客户端缓存\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 749, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601201051_449.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n你的任务是：<video_1>视频是哔哩哔哩app中部分功能的操作，从哔哩哔哩app推荐首页开始，打开哔哩哔哩app\"我的\"页面，进入自动播放设置界面。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Me\"}, {\"type\": \"text\", \"text\": \"我的\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"设置\"}, {\"type\": \"text\", \"text\": \"Setting\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Playack Settings\"}, {\"type\": \"text\", \"text\": \"第四项\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Auto-Play\"}, {\"type\": \"text\", \"text\": \"第一项\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 750, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601231538_450.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是Safari浏览器中部分功能的操作。\n你的任务是：从PC桌面页面开始，打开Safari浏览器，通过\"阅读列表\"板块进入\"中国农业银行\"网站。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"safari浏览器\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"中国农业银行]；3.end\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 758, |
| "devices": "macOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601201818_458.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是大众点评app部分功能的操作。\n你的任务是：我已经从大众点评app中打开了酔月城西昌火盆烧烤（天府点）在美团地图上的位置，请从百度地图中打开驾车模式到此处的导航路线信息页面。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"查看路线\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"开始导航\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"百度地图\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 983, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601221627_683.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是微信app中部分功能的操作。\n你的任务是：从微信app的\"服务\"板块开始，进入银行卡列表，打开查看列表中第一张银行卡的交易明细。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"钱包\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"银行卡\"}, {\"type\": \"text\", \"text\": \"第三个选项\"}]}, {\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"第一张银行卡\"}, {\"type\": \"text\", \"text\": \"工商银行卡\"}, {\"type\": \"text\", \"text\": \"尾号为9503的银行卡\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"交易明细\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 764, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601191720_464.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是知乎app中部分功能的操作。\n你的任务是：从知乎app首页开始，打开热榜排名第一的话题。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"热榜\"}}, {\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"第一个话题\"}, {\"type\": \"text\", \"text\": \"排名第一的话题\"}, {\"type\": \"text\", \"text\": \"曝腾讯法务强制下架开源微信聊天记录导出工具，对用户数据自主权有何影响？\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 409, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601221558_109.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是网页版招商银行部分功能的操作。\n你的任务是：从网页版招商银行首页开始，打开一卡通联名卡。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"悬停\", \"object\": {\"type\": \"text\", \"text\": \"Personal Business\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Joint-name Card\"}, {\"type\": \"text\", \"text\": \"一卡通联名卡\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 771, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601201818_471.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是剪映APP中部分功能的操作。\n你的任务是：请从视频起始所示页面开始，按照视频中示范的方式，将桌面上\"jian\"文件夹中的第一个视频导入素材区。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"素材导入区域\"}, {\"type\": \"text\", \"text\": \"素材导入加号按钮\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"桌面\"}}, {\"action\": \"双击\", \"object\": {\"type\": \"text\", \"text\": \"jian文件夹\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"第一个视频\"}, {\"type\": \"text\", \"text\": \"名称为82的视频\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"打开（O）\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 784, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601191545_484.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是QQ app和网页版飞书文档部分功能的操作。\n你的任务是：从桌面开始打开QQ APP中与\"123\"聊天的消息界面，打开最新一条消息链接进入飞书文档，将该文档的正文及评论以word格式下载保存。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"双击\", \"object\": {\"type\": \"text\", \"text\": \"QQ\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"登录\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"123\"}, {\"type\": \"text\", \"text\": \"第一位好友\"}]}, {\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"最新一条链接消息\"}, {\"type\": \"text\", \"text\": \"飞书文档链接\"}, {\"type\": \"text\", \"text\": \"https:\"}]}, {\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"三点符号图标\"}, {\"type\": \"text\", \"text\": \"更多菜单按钮\"}, {\"type\": \"text\", \"text\": \"更多操作按钮\"}]}, {\"action\": \"悬停\", \"object\": {\"type\": \"text\", \"text\": \"下载为\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"Word\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"导出正文及评论\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"导出\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 792, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601201813_492.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是剪映app中部分功能的操作。\n你的任务是：从视频起始所示页面开始，将当前已剪辑好的视频按照默认标题和默认属性保存至桌面。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"导出\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"导出至选项框\"}, {\"type\": \"text\", \"text\": \"导出至文件夹图标\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"桌面\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"选择文件夹\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"蓝色导出按钮\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 793, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601191545_493.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是腾讯app部分功能的操作。\n你的任务是：从视频起始所示页面开始，在腾讯视频 App输入搜索\"电影《战狼2》\"并通过enter进行搜索跳转。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"输入框\"}, {\"type\": \"text\", \"text\": \"搜索框\"}]}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"电影《战狼2》\"}}, {\"action\": \"按下\", \"object\": {\"type\": \"text\", \"text\": \"enter\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 301, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601301033_1.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是优酷app部分功能的操作。\n你的任务是：从视频起始所示页面开始，在优酷App首页滑动找到并播放今日专属推荐栏目中推荐的第一个影视作品。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"滑动\", \"object\": {\"type\": \"text\", \"text\": \"上\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"深度较量\"}, {\"type\": \"text\", \"text\": \"今日给您的专属推荐下的第一部\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 304, |
| "devices": "macOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601290954_4.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是几款app的部分功能操作；\n你的任务是：从视频起始所示页面开始，打开爱奇艺app的观看历史，全程通过点击鼠标操作。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"双击\", \"object\": {\"type\": \"text\", \"text\": \"爱奇艺\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"历史\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 305, |
| "devices": "macOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202602021425_5.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是QQ音乐app部分功能的操作。\n你的任务是：从视频起始所示页面开始，播放QQ音乐收藏的歌单\"林俊杰歌单\"中第一首收藏数量不超过800万、且是杜比音效的歌曲。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"我的\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"林俊杰歌单\"}, {\"type\": \"text\", \"text\": \"第一个收藏歌单\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"愿与愁\"}, {\"type\": \"text\", \"text\": \"第一首歌\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 310, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601281622_10.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是新浪财经官网部分功能的操作。\n你的任务是：从视频起始所示页面开始，在新浪财经网站首页中搜索\"中国股市\"的行情，要求除了输入文字以外所有操作均使用鼠标完成。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"输入框\"}, {\"type\": \"text\", \"text\": \"搜索框\"}, {\"type\": \"text\", \"text\": \"简称\"}]}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"中国股市\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"搜索\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 316, |
| "devices": "macOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601281652_16.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是QQ浏览器app部分功能的操作。\n你的任务是：从视频的初始页面开始，在QQ浏览器首页搜索\"天气网\"并进入带有官方标识的网站。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"搜索框\"}, {\"type\": \"text\", \"text\": \"输入框\"}, {\"type\": \"text\", \"text\": \"搜全网 看网页 看热榜\"}]}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"天气网\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"搜索\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"天气网 官方\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 321, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601291329_21.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是Windows系统和Google浏览器中部分功能的操作。\n你的任务是：从桌面开始，打开Google浏览器，在默认主页的搜索栏，使用enter键搜索\"红烧肉教程\"，查看视频分类。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"双击\", \"双击\", \"双击\"], \"object\": [{\"type\": \"text\", \"text\": \"Google\"}, {\"type\": \"text\", \"text\": \"Google Chrome\"}, {\"type\": \"text\", \"text\": \"GoogleChrome\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"搜索栏\"}, {\"type\": \"text\", \"text\": \"在Google中搜索或输入网址\"}]}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"红烧肉教程\"}}, {\"action\": [\"按下\", \"按下\"], \"object\": [{\"type\": \"text\", \"text\": \"Enter\"}, {\"type\": \"text\", \"text\": \"enter\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"视频\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 327, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601301755_27.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是百度app部分功能的操作。\n你的任务是：从桌面开始，打开百度app搜索\"爱奇艺官网\"并通过爱奇艺智能小程序进入首页界面。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"百度\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"搜索框\"}, {\"type\": \"text\", \"text\": \"输入框\"}]}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"爱奇艺官网\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"搜索\"}, {\"type\": \"text\", \"text\": \"爱奇艺官网\"}]}, {\"action\": \"滑动\", \"object\": {\"type\": \"text\", \"text\": \"上\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"爱奇艺 智能小程序\"}, {\"type\": \"text\", \"text\": \"爱奇艺小程序\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 333, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601291329_33.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是回收站中部分功能的操作。\n你的任务是：从视频起始所示页面开始，仅通过上方导航栏的按钮还原最新删除的word文件。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"当然可以\"}, {\"type\": \"text\", \"text\": \"word文件\"}, {\"type\": \"text\", \"text\": \"当然可以.docx\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"还原选定的项目\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 340, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601291456_40-1.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是Windows系统中部分功能的操作。\n你的任务是：选中桌面上一个名为\"论文\"的文件，仅使用键盘快捷键为其创建一个副本。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"论文\"}, {\"type\": \"text\", \"text\": \"word文件\"}, {\"type\": \"text\", \"text\": \"论文.docx\"}]}, {\"action\": \"按下\", \"object\": {\"type\": \"text\", \"text\": \"ctrl,c\"}}, {\"action\": \"按下\", \"object\": {\"type\": \"text\", \"text\": \"ctrl,v\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 341, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601291456_41-1.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是钉钉APP部分功能的操作。\n你的任务是：从视频起始所示页面开始，进入添加好友页面。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"ONE\"}}, {\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"加号\"}, {\"type\": \"text\", \"text\": \"⊕\"}, {\"type\": \"text\", \"text\": \"+\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"Add Contact].4.end\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 377, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202602021418_77.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是微博APP部分功能的操作。\n你的任务是：从视频起始所示页面开始，打开粉丝列表。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Me\"}, {\"type\": \"text\", \"text\": \"我\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Follwers\"}, {\"type\": \"text\", \"text\": \"粉丝\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 401, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601301612_101.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是QQAPP部分功能的操作。\n你的任务是：从桌面进入QQApp，将首页状态图标改为\"去旅行\"。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"QQ\"}, {\"type\": \"text\", \"text\": \"qq\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"在线\"}, {\"type\": \"text\", \"text\": \"ღ\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"去旅行\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 380, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601291811_80.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是微博官网中部分功能的操作。\n你的任务是：从视频起始所示页面开始，在搜索框输入\"杨紫\"，仅通过enter搜索并关注。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"搜索框\"}, {\"type\": \"text\", \"text\": \"放大镜\"}]}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"杨紫\"}}, {\"action\": \"按下\", \"object\": {\"type\": \"text\", \"text\": \"enter\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"关注\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 387, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601291456_87-1.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是光明网官网部分功能的操作。\n你的任务是：从视频起始所示页面开始，打开光明网的video频道2026年最早发布的第一条视频报道。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"Video\"}}, {\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"第二条报道\"}, {\"type\": \"text\", \"text\": \"今年第一条报道\"}, {\"type\": \"text\", \"text\": \"Winter scenery of golden coast in Qinhuangdao\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 318, |
| "devices": "macOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601301441_18.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是QQ邮箱APP中部分功能的操作。\n你的任务是：从桌面开始，打开QQ邮箱，打开收件箱内的第一封邮件并回复\"收到\"。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"QQ邮箱\"}, {\"type\": \"text\", \"text\": \"QQ Mail\"}, {\"type\": \"text\", \"text\": \"QQMail\"}]}, {\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"收件箱\"}, {\"type\": \"text\", \"text\": \"All Inboxes\"}, {\"type\": \"text\", \"text\": \"AllInboxes\"}]}, {\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"天猫小家电满意度调查\"}, {\"type\": \"text\", \"text\": \"1\"}, {\"type\": \"text\", \"text\": \"天猫小家电\"}]}, {\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Reply & Forward\"}, {\"type\": \"text\", \"text\": \"Reply&Forward\"}, {\"type\": \"text\", \"text\": \"回复转发\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Reply\"}, {\"type\": \"text\", \"text\": \"回复\"}]}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"收到\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 368, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601301622_68-1.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是微信APP部分功能的操作。\n你的任务是：从桌面开始，进入微信APP快捷操作里的\"发起群聊\"。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"双击\", \"object\": {\"type\": \"text\", \"text\": \"微信\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"+\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"发起群聊\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 372, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601291042_72.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是Excel APP部分功能的操作。\n你的任务是：从桌面开始，打开\"牛马的一生\"文档，将sheet2 A1单元格中的内容通过上方功能栏居中对齐。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"双击\", \"object\": {\"type\": \"text\", \"text\": \"牛马的一生\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"sheet2\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"A1单元格\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"居中对齐\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 349, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601301612_49.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是WPS部分功能的操作。\n你的任务是：将桌面上的\"新建DOC 文档\"通过右键方式重命名为\"语文\"然后通过enter键退出编辑状态，双击打开文档，在表格第一行输入\"小学语文作文题目\"，然后三击全选文字，通过上方功能栏将对齐方式改成居中对齐。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"右击\", \"右击\"], \"object\": [{\"type\": \"text\", \"text\": \"新建DOC文档\"}, {\"type\": \"text\", \"text\": \"新建 DOC文档.doc\"}]}, {\"action\": [\"单击\", \"按下\"], \"object\": [{\"type\": \"text\", \"text\": \"重命名\"}, {\"type\": \"text\", \"text\": \"F2\"}]}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"语文\"}}, {\"action\": \"按下\", \"object\": {\"type\": \"text\", \"text\": \"enter\"}}, {\"action\": [\"双击\", \"双击\"], \"object\": [{\"type\": \"text\", \"text\": \"语文\"}, {\"type\": \"text\", \"text\": \"语文.doc\"}]}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"小学语文作文题目\"}}, {\"action\": \"三击\", \"object\": {\"type\": \"text\", \"text\": \"小学语文作文题目\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"居中对齐\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 353, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202602021043_53.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是pexel网站和PowerPoint部分功能的操作。\n你的任务是：从视频起始所示页面开始，保存第一张图片，然后从任务栏进入已打开的PowerPoint，将刚下载的图片通过上方操作栏插入已选中的PPT页面内。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"Download\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"PowerPoint\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"Insert\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"Pictures\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"This Device\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"pexels-photogrphersaala-35401509\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"Insert\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 791, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601301612_491.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是京东网页版部分功能的操作。\n你的任务是：从视频起始所示页面开始，输入搜索\"食用油\"并通过搜索按钮进行页面跳转，将全部商品通过\"销量\"排序。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"搜索框\"}}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"食用油\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"搜索\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"销量\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 457, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601291820_157-1.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是淘宝官网部分功能的操作。\n你的任务是：从视频起始所示页面开始，通过顶部菜单栏进入购物车中全部商品界面，筛选出所有失效的商品。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"购物车\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"状态\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"失效\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 462, |
| "devices": "macOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601291034_162.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是闲鱼官网部分功能的操作。\n你的任务是：从视频起始所示页面开始，从Safari浏览器个人收藏内进入闲鱼，然后打开账号与安全。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"闲鱼\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"柚-LoLo\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"账号与安全\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 464, |
| "devices": "macOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601291342_164.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是拼多多app部分功能的操作。\n你的任务是：从视频的初始页面开始，在拼多多app中输入搜索\"手机支架\"，通过\"价格\"由低到高排序，然后打开第一个商品并收藏。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"搜索框\"}, {\"type\": \"text\", \"text\": \"输入框\"}]}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"手机支架\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"搜索\"}, {\"type\": \"text\", \"text\": \"手机支架\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"价格\"}}, {\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"第一个商品\"}, {\"type\": \"text\", \"text\": \"合金打造一秒放稳\"}, {\"type\": \"text\", \"text\": \"全金属可折叠旋转桌面手\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"收藏\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 467, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601291357_167.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是Alibaba.com APP部分功能的操作。\n你的任务是：从的Alibaba.com APP首页开始，搜索\"保温杯\"商品。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"搜索栏\"}}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"保温杯\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"放大镜\"}, {\"type\": \"text\", \"text\": \"搜索\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 468, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202602021418_168.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是唯品会app部分功能的操作。\n你的任务是：从已打开的个人中心页面开始，进入\"订阅\"，打开管理页面，把全部列表中第一个品牌的订阅取消。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"订阅\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"管理\"}, {\"type\": \"text\", \"text\": \"齿轮\"}]}, {\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"URBAN REVIVO\"}, {\"type\": \"text\", \"text\": \"UR\"}, {\"type\": \"text\", \"text\": \"第一个品牌\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"取消订阅\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 469, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601291444_169.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是天猫app部分功能的操作。\n你的任务是：现在我已经选中了购物车中最近加入的一个商品，请你帮我打开管理并删除该商品。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"管理\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"删除\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"确定\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 470, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601291509_-170.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是快手极速版APP部分功能的操作。\n你的任务是：从视频起始所示页面开始，从商城进入\"打卡领现金\"频道。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Mall\"}, {\"type\": \"text\", \"text\": \"商城\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"打卡领现金\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 481, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202602021522_181.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是京东app部分功能的操作。\n你的任务是：从视频的初始页面开始，筛选价格在\"0-50\"之间的手机壳商品，在不进入商品页面的情况下将筛选结果的第一个商品加入购物车，要求全程使用点击操作。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"筛选\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"0-50\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"确定\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"第一个商品的加入购物车\"}, {\"type\": \"text\", \"text\": \"第一个商品的加号\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 482, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601291420_182.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是淘宝官网部分功能的操作。\n你的任务是：从视频起始所示页面开始，打开当前页面第一个华为耳机商品，然后给客服一键发送宝贝链接。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"第二个商品\"}, {\"type\": \"text\", \"text\": \"HUAWEI Freebuds\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"客服\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"发送宝贝链接\"}}, {\"action\": [\"单击\", \"按下\"], \"object\": [{\"type\": \"text\", \"text\": \"发送\"}, {\"type\": \"text\", \"text\": \"enter\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 484, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601301635_184.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是Amazon官网中部分功能的操作。\n你的任务是：从视频起始所示页面开始，搜索查找商品\"口红\"，将所有商品按照价格按从低到高排序。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"搜索框\"}, {\"type\": \"text\", \"text\": \"Search Amazon\"}, {\"type\": \"text\", \"text\": \"SearchAmazon\"}]}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"口红\"}}, {\"action\": [\"单击\", \"单击\", \"单击\", \"单击\", \"按下\", \"按下\"], \"object\": [{\"type\": \"text\", \"text\": \"搜索\"}, {\"type\": \"text\", \"text\": \"放大镜\"}, {\"type\": \"text\", \"text\": \"Search\"}, {\"type\": \"text\", \"text\": \"search\"}, {\"type\": \"text\", \"text\": \"enter\"}, {\"type\": \"text\", \"text\": \"Enter\"}]}, {\"action\": [\"单击\", \"单击\", \"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Sort by: Featured\"}, {\"type\": \"text\", \"text\": \"Sortby:Featured\"}, {\"type\": \"text\", \"text\": \"Sort by\"}, {\"type\": \"text\", \"text\": \"Sortby\"}, {\"type\": \"text\", \"text\": \"排序方式\"}]}, {\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Price: Low to High\"}, {\"type\": \"text\", \"text\": \"Price:LowtoHigh\"}, {\"type\": \"text\", \"text\": \"价格：从低到高\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 485, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601301814_185-1.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是Alibaba app部分功能的操作。\n你的任务是：从视频起始所示页面开始，筛选出全新的自行车列表后打开第一件商品，询问客服\"河北省发货吗\"。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"New\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"第一个商品\"}, {\"type\": \"text\", \"text\": \"EU UK Warehouse\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"Chat Now\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"输入框\"}, {\"type\": \"text\", \"text\": \"Enter your message\"}]}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"河北省发货吗\"}}, {\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"发送\"}, {\"type\": \"text\", \"text\": \"纸飞机\"}, {\"type\": \"text\", \"text\": \"Send\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 492, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601301621_192.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是美团app拼好饭到店自取板块的部分功能操作；\n你的任务是：从视频的初始页面开始，在推荐分类下滑动页面找到第一个价格在15-20元之间的商品并打开该商品详情页。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"滑动\", \"object\": {\"type\": \"text\", \"text\": \"上\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"厚府蔬菜牛油拌饭\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 496, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601291554_196.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是大众点评app的部分功能操作；\n你的任务是：从桌面开始，打开大众点评App电影演出频道的\"脱口秀\"板块。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"大众点评\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"电影演出\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"脱口秀\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 497, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601291612_197.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是美团APP部分功能的操作。\n你的任务是：从美团APP的外卖频道首页开始，打开神枪手频道内的\"超倍补\"页面的第一个商品。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"神枪手\"}, {\"type\": \"text\", \"text\": \"更多\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"超倍补\"}}, {\"action\": [\"单击\", \"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"黑金套餐\"}, {\"type\": \"text\", \"text\": \"温暖你的猪\"}, {\"type\": \"text\", \"text\": \"第一个商品\"}, {\"type\": \"text\", \"text\": \"猛火土匪猪肝+金钱蛋+米饭\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 500, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601281639_200.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是小象超市APP部分功能的操作。\n你的任务是：从桌面进入小象超市App，等待广告结束后，打开购物车内的第一个商品。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"小象超市\"}}, {\"action\": \"等待\", \"object\": {\"type\": \"text\", \"text\": \"3秒\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"购物车\"}}, {\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"可口可乐\"}, {\"type\": \"text\", \"text\": \"可口可乐零度汽水2L\"}, {\"type\": \"text\", \"text\": \"第一个商品\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 501, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601281800_201.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是大众点评APP部分功能的操作。\n你的任务是：从大众点评App的美食频道开始，从美食餐厅板块内选择\"必吃榜\"，然后再按照\"口味优先\"排序。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"必吃榜\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"智能排序\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"口味优先\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 502, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601301306_202.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是小象超市APP部分功能的操作。\n你的任务是：从桌面进入小象超市App，等待广告结束后，打开\"水果鲜花\"板块内的\"超低折扣\"页面。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"小象超市\"}}, {\"action\": \"等待\", \"object\": {\"type\": \"text\", \"text\": \"3秒\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"水果鲜花\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"超低折扣\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 503, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601291407_203.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是小象超市app的部分功能操作；\n你的任务是：从小象超市app中\"黄花鱼\"的搜索结果页面开始，将\"销量\"排序后的第一个商品直接加入购物车，保持默认规格即可。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"销量\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"【产地直供】冰鲜宁德大黄鱼1条200-300g的加号\"}, {\"type\": \"text\", \"text\": \"第一个商品的加号\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"确定\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 507, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601291627_207.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是美团APP部分功能的操作。\n你的任务是：从桌面开始，在美团APP首页搜索\"理发店\"，通过筛选\"离我最近\"，进入筛选出的第一家门店。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"美团\"}}, {\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"搜索框\"}, {\"type\": \"text\", \"text\": \"搜索栏\"}, {\"type\": \"text\", \"text\": \"输入框\"}]}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"理发店\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"搜索\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"综合排序\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"离我最近\"}}, {\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"优剪\"}, {\"type\": \"text\", \"text\": \"第一个商品\"}, {\"type\": \"text\", \"text\": \"优剪 (互联宝地工作室)\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 509, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601291407_209.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是美团app的部分功能操作；\n你的任务是：从视频初始页面开始， 打开\"电影/影院\"板块，进入热映专区中第一部影片的购票页面，打开列表第一家距离不超过2km的影院，并进入明天最早场次的购票选座页面。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"电影\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"热映\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"匿杀的购票\"}, {\"type\": \"text\", \"text\": \"第一部电影的购票\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"上影国际影城（成都银泰LUXE店）\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"明天1月30日\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"10:00\"}, {\"type\": \"text\", \"text\": \"最早场次\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 511, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601291647_211.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是美团app的部分功能操作；\n你的任务是：从桌面开始，进入美团APP的酒店民宿频道，打开\"酒店榜\"板块。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"美团\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"酒店民宿\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"酒店榜\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 513, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601291714_213.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是美团app的部分功能操作；\n你的任务是：从视频初始页面开始，打开酒店民宿频道的\"民宿\"，进入\"大家都在住\"板块。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"酒店民宿\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"民宿\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"大家都在住\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 514, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601291728_214.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是美团APP部分功能的操作。\n你的任务是：从桌面开始开始，打开美团APP，进入酒店民宿频道的民宿页面，将居室数修改为\"2室\"。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"美团\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"酒店民宿\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"民宿\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"床数\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"2室\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"确认\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 518, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601291741_218-1.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是美团APP部分功能的操作。\n你的任务是：从视频起始所示页面开始，进入酒店民宿频道的钟点房页面，并以默认位置、规格、日期搜索出所有符合要求的钟点房。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"酒店民宿\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"钟点房\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"找钟点房\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 519, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601291741_219-1.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是美团APP部分功能的操作。\n你的任务是：从视频起始所示页面开始，进入酒店民宿频道的短租页面，将户型修改为合租。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"酒店民宿\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"短租\"}}, {\"action\": [\"单击\", \"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"不限 预算不限\"}, {\"type\": \"text\", \"text\": \"不限\"}, {\"type\": \"text\", \"text\": \"不限预算不限\"}, {\"type\": \"text\", \"text\": \"预算不限\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"合租\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"确定\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 520, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601291741_220-1.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是美团app的部分功能操作；\n你的任务是：从视频初始页面开始，进入酒店民宿频道，打开酒店民宿收藏页面中的第一个商家。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"酒店民宿\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"收藏\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"济南开元名都大酒店\"}, {\"type\": \"text\", \"text\": \"第一个商家\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 524, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202602021431_224.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是美团APP部分功能的操作。\n你的任务是：从美团app的\"酒店民宿\"频道首页开始，进入\"景点游玩\"页面，然后在主题乐园分类下先按照距离附近10km筛选，再按照好评优先筛选，最后收藏筛选结果中左数第一个景区。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"景点游玩\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"主题乐园\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"位置距离\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"10km\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"排序\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"好评优先\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"杭州冰雪小镇\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"收藏\"}, {\"type\": \"text\", \"text\": \"星星\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 529, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601301058_229.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是美团APP部分功能的操作。\n你的任务是：从美团APP\"团购\"频道推荐页开始，进入丽人美发板块，筛选\"神券\"，打开第一个价格不超过99元的团购商品。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"丽人美发\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"神券\"}}, {\"action\": [\"单击\", \"单击\", \"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"猫话形象设计 · 专业烫染\"}, {\"type\": \"text\", \"text\": \"猫话形象设计\"}, {\"type\": \"text\", \"text\": \"￥38\"}, {\"type\": \"text\", \"text\": \"第一个商品\"}, {\"type\": \"text\", \"text\": \"【人气优选】设计师洗剪吹套餐(7天内售后)\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 534, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601301058_234.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是美团APP部分功能的操作。\n你的任务是：从美团APP首页开始，打开\"团购\"频道内的全部订单。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"团购\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"订单\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 535, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601291757_235.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是美团app团购频道的部分功能操作；\n你的任务是：从视频初始页面开始，筛选\"店好评优先\"，进入第一个商品并打开分享弹窗。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"排序\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"店好评优先\"}}, {\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"第一个商品\"}, {\"type\": \"text\", \"text\": \"耍酒馆民谣餐酒吧\"}, {\"type\": \"text\", \"text\": \"精酿套餐四选二\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"分享\"}, {\"type\": \"text\", \"text\": \"转发\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 545, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202602021435_245.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是美团APP部分功能的操作。\n你的任务是：从美团App的团购页面开始，选择酒店民宿，先筛选\"店好评优先\"，然后筛选\"五星级/豪华型\"，进入筛选后的第一家酒店，并复制该酒店的分享链接。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"滑动\", \"object\": {\"type\": \"text\", \"text\": \"左\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"酒店民宿\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"排序\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"店好评优先\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"酒店星级\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"五星级\"}}, {\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"上海南京路步行街假日酒店\"}, {\"type\": \"text\", \"text\": \"第一家酒店\"}, {\"type\": \"text\", \"text\": \"￥1888\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"分享\"}, {\"type\": \"text\", \"text\": \"转发\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"复制链接\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 546, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601301058_246.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是美团APP部分功能的操作。\n你的任务是：从美团APP首页开始，进入到\"打车\"板块，找到\"顺风车\"，打开热门问题中的\"高速费谁来支付？\"。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"打车\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"顺风车\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"高速费谁来支付？\"}, {\"type\": \"text\", \"text\": \"高速费谁来支付？下拉箭头\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 551, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601301058_251.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是美团APP部分功能的操作。\n你的任务是：从桌面进入美团APP的\"打车\"板块，并打开\"卡券\"界面。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"美团\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"打车\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"卡券\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 554, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601291757_254.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是美团app打车频道的部分功能操作；\n你的任务是：从视频初始页面开始，输入目的地\"成都欢乐谷\"，以默认勾选车型呼叫打车。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"输入你的目的地\"}}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"成都欢乐谷\"}}, {\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"第一个搜索结果\"}, {\"type\": \"text\", \"text\": \"第一个结果\"}, {\"type\": \"text\", \"text\": \"第一个成都欢乐谷结果\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"立即呼叫\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 557, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202602021446_257.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是美团app部分功能的操作。\n你的任务是：从视频起始所示页面开始，打开美团打车的顺风车页面。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"美团\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"打车\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"顺风车\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 563, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601301705_263.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是WeChat app部分功能的操作。\n你的任务是：从视频起始所示页面开始，从程序坞打开WeChat APP，将中票娱乐取消置顶。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"WeChat\"}}, {\"action\": \"右击\", \"object\": {\"type\": \"text\", \"text\": \"中票娱乐\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Remove Sticky\"}, {\"type\": \"text\", \"text\": \"移除置顶\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 374, |
| "devices": "macOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601301518_74.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是微博网页版中部分功能的操作。\n你的任务是：从视频起始所示页面开始，输入评论\"好可爱\"，操作到文本输入完成即可。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"发表评论\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"写评论\"}, {\"type\": \"text\", \"text\": \"写评论...\"}]}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"好可爱\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 402, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601301327_102-1.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是微信APP中部分功能的操作。\n你的任务是：从视频起始所示页面开始，进入\"发现\"中的朋友圈，长按相机图标进入编辑朋友圈界面，输入\"今天也是元气满满的一天\"并发表。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"发现\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"朋友圈\"}}, {\"action\": \"长按\", \"object\": {\"type\": \"text\", \"text\": \"相机\"}}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"今天也是元气满满的一天\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"发表\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 405, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601301622_105-1.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是WPS部分功能的操作。\n你的任务是：从桌面开始，将\"我爱工作\"表格用鼠标右键的方式通过WPS Office打开，再通过wps页面左上角小三角按钮一键全选，然后利用顶部工具栏选择先水平居中，再把字体颜色选择为标准色\"深红\"。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"右击\", \"右击\"], \"object\": [{\"type\": \"text\", \"text\": \"我爱工作\"}, {\"type\": \"text\", \"text\": \"我爱工作.xlsx\"}]}, {\"action\": \"悬停\", \"object\": {\"type\": \"text\", \"text\": \"打开方式\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"WPS Office\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"全选\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"水平居中\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"字体颜色下拉箭头\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"深红\"}, {\"type\": \"text\", \"text\": \"标准色第一个\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 350, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601291606_50.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是酷狗音乐App部分功能的操作。\n你的任务是：从视频起始所示页面开始，打开\"排行榜\"页面，然后在\"TOP500\"分类中查看第二首歌所在的专辑列表。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"排行榜\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"TOP500\"}, {\"type\": \"text\", \"text\": \"top500\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"黑色彩虹\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 407, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601291456_107-1.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是网易云音乐app部分功能的操作。\n你的任务是：从视频起始所示页面开始，播放网易云音乐内自己创建的歌单\"alcohol\"中的第二首歌曲。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"悬停\", \"悬停\"], \"object\": [{\"type\": \"text\", \"text\": \"晚风\"}, {\"type\": \"text\", \"text\": \"第二首歌\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"三角形\"}, {\"type\": \"text\", \"text\": \"播放\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 408, |
| "devices": "macOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601301721_108.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是小红书APP中部分功能的操作。\n你的任务是：从视频起始所示页面开始，进入搜索界面，选择历史记录里的\"美食大全\"，筛选图片类内容。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"搜索\"}, {\"type\": \"text\", \"text\": \"放大镜\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"美食大全\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"图片\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 410, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601301327_110-1.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是夸克浏览器部分功能的操作。\n你的任务是：从视频起始所示页面开始，通过右侧\"其他书签\"，进入\"微博\"。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"其他书签\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"微博\"}, {\"type\": \"text\", \"text\": \"微博-随时随地发生新鲜事\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 415, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601291456_115-1.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是Safari浏览器和百度官网中部分功能的操作。\n你的任务是：从视频起始所示页面开始，输入搜索\"医保跨省共享\"，然后筛选出所有资讯内容 。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"搜索框\"}, {\"type\": \"text\", \"text\": \"输入关键词\"}]}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"医保跨省共享\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"搜索\"}, {\"type\": \"text\", \"text\": \"百度一下\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"筛选\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"资讯\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 421, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601301327_121-1.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是QQ浏览器app的部分功能操作；\n你的任务是：从视频初始页面开始，在\"我的\"页面打开历史记录，并进入最近一条历史记录的网页。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"我的\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"历史记录\"}, {\"type\": \"text\", \"text\": \"7\"}]}, {\"action\": [\"单击\", \"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"第一条历史记录\"}, {\"type\": \"text\", \"text\": \"新时代 未来产业何以加速崛起\"}, {\"type\": \"text\", \"text\": \"新时代未来产业何以加速崛起\"}, {\"type\": \"text\", \"text\": \"新时代\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 425, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202602021519_125.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是WPSapp部分功能的操作。\n你的任务是：打开桌面上的\"WPS Office\"并打开最新修改过的文档。要求按照视频中的方式打开文档。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"双击\", \"object\": {\"type\": \"text\", \"text\": \"WPS Office\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"我爱工作\"}, {\"type\": \"text\", \"text\": \"我爱工作.xlsx\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 433, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601291606_133.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是日历app部分功能的操作。\n你的任务是：从视频起始所示页面开始，在日历app内打开最近一个未来日程，并打开日程中关联的文档。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"日历\"}}, {\"action\": \"双击\", \"object\": {\"type\": \"text\", \"text\": \"行程\"}}, {\"action\": \"双击\", \"object\": {\"type\": \"text\", \"text\": \"工作待办.docx\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 436, |
| "devices": "macOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601291308_136.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是WPS部分功能的操作。\n你的任务是：打开桌面上的\"WPS Office\"App，按照视频中的方式，通过左侧侧边栏新建一个word空白文档，并按照默认名称保存在桌面。要求全程通过鼠标操作。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"双击\", \"object\": {\"type\": \"text\", \"text\": \"WPS Office\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"新建\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"文字\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"新建空白\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"文件\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"保存\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"保存\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 439, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601291726_139.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是WPS部分功能的操作。\n你的任务是：打开桌面上的\"WPS Office\"，通过单击的方式打开\"《长津湖》观后感.docx\"，然后通过上方的操作功能区将纸张大小设置为\"A4\"。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"双击\", \"object\": {\"type\": \"text\", \"text\": \"WPS Office\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"《长津湖》观后感\"}, {\"type\": \"text\", \"text\": \"《长津湖》观后感.docx\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"页面\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"纸张大小\"}}, {\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"A4\"}, {\"type\": \"text\", \"text\": \"A4(210x297mm)\"}, {\"type\": \"text\", \"text\": \"第一个\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 440, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601301503_140.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是WPS部分功能的操作。\n你的任务是：打开桌面上的\"WPS Office\"，使用单击的方式打开\"外卖行业分析报告.docx\"，然后通过三击的方式选中标题，通过上方的功能操作区先将标题的字号设置为\"三号\"，再将标题加粗；然后通过左上方的\"文件\"将文档另存到桌面。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"双击\", \"object\": {\"type\": \"text\", \"text\": \"WPS Office\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"外卖行业分析报告.docx\"}}, {\"action\": [\"三击\", \"三击\"], \"object\": [{\"type\": \"text\", \"text\": \"外卖行业分析报告\"}, {\"type\": \"text\", \"text\": \"标题\"}]}, {\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"字号下拉箭头\"}, {\"type\": \"text\", \"text\": \"字号下拉菜单\"}, {\"type\": \"text\", \"text\": \"字号\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"三号\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"B\"}, {\"type\": \"text\", \"text\": \"加粗]7.单击 [文件\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"另存为\"}, {\"type\": \"text\", \"text\": \"另存为(A)\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"桌面\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"保存\"}, {\"type\": \"text\", \"text\": \"保存(S)\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 448, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601301442_148.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是WPS部分功能的操作。\n你的任务是：打开桌面中名为\"演讲稿\"的文档，双击选中标题后，通过上方功能区将标题先加粗再居中，再将标题字体修改为微软雅黑，修改后直接输出为PDF，要求所有操作均使用鼠标左键完成。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"双击\", \"双击\"], \"object\": [{\"type\": \"text\", \"text\": \"演讲稿\"}, {\"type\": \"text\", \"text\": \"演讲稿.docx\"}]}, {\"action\": [\"双击\", \"双击\"], \"object\": [{\"type\": \"text\", \"text\": \"演讲稿\"}, {\"type\": \"text\", \"text\": \"标题\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"B\"}, {\"type\": \"text\", \"text\": \"加粗\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"居中对齐\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"字体下拉箭头\"}, {\"type\": \"text\", \"text\": \"字体下拉菜单\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"微软雅黑\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"输出为PDF\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"开始输出\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 449, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601301442_149.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是word部分功能的操作。\n你的任务是：从电脑桌面开始，打开\"Record of the Meeting\"文件夹，直接将该文件夹中\"Promotional Slogan\"文档的行间距通过上方操作功能区调整为1.5倍。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"双击\", \"object\": {\"type\": \"text\", \"text\": \"Record of meeting\"}}, {\"action\": \"双击\", \"object\": {\"type\": \"text\", \"text\": \"Promotional Slogan\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"Line and Paragraph Spacing\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"1.5\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 454, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601301612_154.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是Edge浏览器和中国建设银行官网的部分功能操作；\n你的任务是：从视频起始所示页面开始，在最上方网址栏输入\"www.ccb.com\"并使用enter快捷键进行搜索，进入中国建设银行官网，从首页上方的\"电子银行\"进入\"开通网上银行\"页面。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"网址栏\"}, {\"type\": \"text\", \"text\": \"搜索或输入Web地址\"}]}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"www.ccb.com\"}}, {\"action\": [\"按下\", \"按下\"], \"object\": [{\"type\": \"text\", \"text\": \"enter\"}, {\"type\": \"text\", \"text\": \"Enter\"}]}, {\"action\": \"悬停\", \"object\": {\"type\": \"text\", \"text\": \"电子银行\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"开通网上银行\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 751, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601291456_451-1.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是招商银行APP部分功能的操作。\n你的任务是：从视频起始所示页面开始，从左侧分类栏进入财富板块，然后筛选出所有可购买的代销产品。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"财富\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"代销产品\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"即将发售\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"查询\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 753, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601291456_453-1.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是微信APP部分功能的操作。\n你的任务是：从视频起始所示页面开始，在WeChat app的账单中筛选出所有的红包收入。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"Incomes\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"Confirm\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 761, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202602021418_461.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是支付宝APP部分功能的操作。\n你的任务是：从支付宝主页开始，进入账单页面，将本月的支出预算设置为\"2000\"。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"Me\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"My Transactions\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"Set spending budget\"}}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"2000\"}}, {\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"OK\"}, {\"type\": \"text\", \"text\": \"ok\"}, {\"type\": \"text\", \"text\": \"Ok\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 763, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601301722_463.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是抖音APP中部分功能的操作。\n你的任务是：从手机桌面开始，进入抖音app，在上方选择进入\"商城\"页面，打开\"超值购\"。要求全部操作均使用点击完成。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"抖音\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"商城\"}}, {\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"超值购\"}, {\"type\": \"text\", \"text\": \"超值购 年货节加补\"}, {\"type\": \"text\", \"text\": \"超值购年货节加补\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 765, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202602021104_465-1.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是WeChat app部分功能的操作。\n你的任务是：从手机桌面开始，在WeChat app内再添加一张银行卡，操作到添加卡号页面即可。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"WeChat\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"Me\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"Pay and Services\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"Wallet\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"Bank Cards\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"Add a Bank Card\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 766, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202602021553_466.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是QQapp部分功能的操作。\n你的任务是：从视频起始所示页面开始，筛选出QQapp内类型为红包的所有账单列表。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"钱包\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"余额\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"账单\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"全部类型\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"红包\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 777, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202602021530_477.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是微信APP部分功能的操作。\n你的任务是：从桌面开始，打开微信 app，进入账单页面。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"微信\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Me\"}, {\"type\": \"text\", \"text\": \"我\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"Pay and Services\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"Wallet\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Transactions\"}, {\"type\": \"text\", \"text\": \"账单\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 778, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202602021418_478.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是云闪付app部分功能的操作。\n你的任务是：从视频起始所示页面开始，在云闪付内筛选出所有线下消费的交易记录。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"我的\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"交易记录\"}, {\"type\": \"text\", \"text\": \"最近一笔交易\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"线下消费\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 779, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202602021559_479.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是支付宝APP部分功能的操作。\n你的任务是：在手机桌面开始，进入支付宝app，进入右下角\"我的\"页面，打开\"账单\"，然后打开右上角的\"筛选\"，筛选顺序为先选择\"支出\"，再选择\"服饰装扮\"，然后开始筛选。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"支付宝\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"我的\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"账单\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"筛选\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"支出\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"服饰装扮\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"确定\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 780, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601301708_480.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是京东app部分功能的操作。\n你的任务是：从京东app我的页面开始，在我的订单中筛选出所有已完成的秒送订单。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"全部\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"秒送\"}, {\"type\": \"text\", \"text\": \"外卖\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"已完成\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 775, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202602021546_475.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是IOS系统的设置中部分功能的操作。\n你的任务是：从桌面开始，打开设置，在通用中关闭手机的\"NFC\"功能 。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"设置\"}, {\"type\": \"text\", \"text\": \"Settings\"}]}, {\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"通用\"}, {\"type\": \"text\", \"text\": \"general\"}, {\"type\": \"text\", \"text\": \"General\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"NFC\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"开关\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 725, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202602021154_425-1.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是微信APP和醒图APP部分功能的操作。\n你的任务是：从桌面开始，打开微信APP，将聊天列表中第一个好友最新发送的图片下载到相册。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"微信\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"123\"}, {\"type\": \"text\", \"text\": \"第一个好友\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"图片\"}}, {\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"下载\"}, {\"type\": \"text\", \"text\": \"保存\"}, {\"type\": \"text\", \"text\": \"save\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 711, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202602021420_411.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是58同城APP中部分功能的操作。\n你的任务是：从视频起始所示页面开始，进入\"二手车\"板块，将车龄筛选为\"2年以内\"，再将品牌筛选为\"奥迪\"（不限型号），进入列表第一个商品，然后收藏。要求全部操作均使用点击完成。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"二手车\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"车龄\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"2年以内\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"品牌\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"奥迪\"}}, {\"action\": [\"单击\", \"单击\", \"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"奥迪 A6L 2024款\"}, {\"type\": \"text\", \"text\": \"奥迪A6L2024款\"}, {\"type\": \"text\", \"text\": \"放心车\"}, {\"type\": \"text\", \"text\": \"24.98万\"}, {\"type\": \"text\", \"text\": \"列表第一个商品\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"收藏\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 472, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601301622_172-1.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是京东APP中部分功能的操作。\n你的任务是：从视频起始所示页面开始，打开\"特价\"里的\"数码\"分类。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"特价\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"数码\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 474, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601301327_174-1.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是Alibaba官网中部分功能的操作。\n你的任务是：从视频起始所示页面开始，搜索\"台灯\"，输入并筛选价格在50-300之间的商品。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"搜索框\"}, {\"type\": \"text\", \"text\": \"输入框\"}, {\"type\": \"text\", \"text\": \"guiness extra stout\"}]}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"台灯\"}}, {\"action\": [\"单击\", \"按下\"], \"object\": [{\"type\": \"text\", \"text\": \"Search\"}, {\"type\": \"text\", \"text\": \"enter\"}]}, {\"action\": \"滑动\", \"object\": {\"type\": \"text\", \"text\": \"上\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"Min.\"}}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"50\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"Max.\"}}, {\"action\": \"输入\", \"object\": {\"type\": \"text\", \"text\": \"300\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"OK\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 483, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601301755_183.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是京东APP部分功能的操作。\n你的任务是：从视频起始所示页面开始，筛选\"SAMSUNG\"品牌，在筛选结果页面打开第一个商品，进入客服对话页面。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"筛选\"}, {\"type\": \"text\", \"text\": \"漏斗\"}, {\"type\": \"text\", \"text\": \"Filter\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"SAMSUNG\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"Confirm\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"第一个商品\"}}, {\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Chat\"}, {\"type\": \"text\", \"text\": \"聊天\"}, {\"type\": \"text\", \"text\": \"客服\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 490, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202602021545_190.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是闲鱼app中部分功能的操作。\n你的任务是：从视频起始所示页面开始，筛选出离我最近的晾衣架，然后收藏第一个商品。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"综合\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"离我最近\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"第一个商品\"}, {\"type\": \"text\", \"text\": \"全新未拆封索菲亚电\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"收藏\"}, {\"type\": \"text\", \"text\": \"星星\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 491, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202602021117_191.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是美团app中部分功能的操作。\n你的任务是：从视频起始所示页面开始，在美团打车里将预约用车时间改为明天下午六点整，要求先选择日期再选择具体时间。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"打车\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"预约用车\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"明天\"}, {\"type\": \"text\", \"text\": \"1月31日\"}]}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"0分\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 549, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202602021116_249.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是小象app中部分功能的操作。\n你的任务是：从视频起始所示页面开始，进入小象app领券页面，按照视频中的操作方式，打开第二件优惠专区。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"领券\"}, {\"type\": \"text\", \"text\": \"福利中心\"}]}, {\"action\": \"滑动\", \"object\": {\"type\": \"text\", \"text\": \"上\"}}, {\"action\": \"滑动\", \"object\": {\"type\": \"text\", \"text\": \"左\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"更多凑单商品\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 506, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202602021109_206.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是美团打车快捷方式中部分功能的操作。\n你的任务是：从视频起始所示页面开始，打开美团打车设置内的紧急联系人设置页面。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"我的\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"设置\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"紧急联系人\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 558, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202602021118_258.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是Excel中部分功能的操作。\n你的任务是：从视频起始所示页面开始，选中销售额一列进行从大到小排序，过程中需要扩展选定区域。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"C列\"}, {\"type\": \"text\", \"text\": \"销售额列\"}]}, {\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"排序和筛选\"}, {\"type\": \"text\", \"text\": \"排序筛选\"}, {\"type\": \"text\", \"text\": \"Sort & Filter\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Sort Largest to Smallest\"}, {\"type\": \"text\", \"text\": \"从大到小排序\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Sort\"}, {\"type\": \"text\", \"text\": \"排序\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 351, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601301810_51.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是Apple官网中部分功能的操作。\n你的任务是：从视频起始所示页面开始，在ipad分类的下拉栏中进入iPad mini 专区，点击购买，颜色选择蓝色，存储容量选择256GB，连线方式选择第一种，不选择镌刻服务。要求全部操作均使用点击完成。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"iPad\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"iPad mini\"}, {\"type\": \"text\", \"text\": \"iPadmini\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Buy\"}, {\"type\": \"text\", \"text\": \"购买\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Blue\"}, {\"type\": \"text\", \"text\": \"蓝色\"}]}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"256GB\"}, {\"type\": \"text\", \"text\": \"256\"}]}, {\"action\": [\"单击\", \"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Wi-Fi\"}, {\"type\": \"text\", \"text\": \"wi-fi\"}, {\"type\": \"text\", \"text\": \"WiFi\"}, {\"type\": \"text\", \"text\": \"wifi\"}]}, {\"action\": [\"单击\", \"单击\", \"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"No engraving\"}, {\"type\": \"text\", \"text\": \"Noengraving\"}, {\"type\": \"text\", \"text\": \"noengraving\"}, {\"type\": \"text\", \"text\": \"no engraving\"}, {\"type\": \"text\", \"text\": \"不镌刻\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 786, |
| "devices": "Windows", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202602021105_486-1.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是抖音APP中部分功能的操作。\n你的任务是：从视频起始所示页面开始，清理掉缓存数据。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"清理缓存\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"清理\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"清理\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 741, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601301327_441-1.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是哔哩哔哩app中部分功能的操作。\n你的任务是：从视频起始所示页面开始，将哔哩哔哩播放的清晰度设置改为优先播放HDR清晰度。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"播放设置\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"清晰度设置\"}}, {\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"开关\"}, {\"type\": \"text\", \"text\": \"优先播放HDR清晰度\"}]}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 743, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202602021517_443.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是QQ APP部分功能的操作。\n你的任务是：从QQ APP的\"设置\"页面开始，进入黑名单管理页面。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"隐私设置\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"黑名单管理\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 745, |
| "devices": "iOS", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202601281546_445.mp4" |
| } |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务和屏幕截图，您需要分析屏幕内容并回答问题。\n\n可用功能：\n- 单击 [元件名称]：鼠标左键单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]：鼠标左键双击界面上名为[元件名称]的元素。\n- 三击 [元件名称]：鼠标左键三击界面上名为[元件名称]的元素。\n- 右击 [元件名称]：鼠标右键单击界面上名为[元件名称]的元素。\n- 悬停 [元件名称]：将鼠标悬停至界面上名为[元件名称]的位置上。\n- 长按 [位置描述/文本内容]：长按移动端的某个边界区域。\n- 按下 [按键1,按键2,按键3...]：按下键盘上名为[按键名称]的按键/按下键盘上的[按键1,按键2,按键3...]的组合键。\n- 输入 [文本内容]：在输入框中输入[文本内容]。\n- 滑动 [方向]：在边界框区域内，向[上/下/左/右]滑动页面，当执行连续向某方向滑动操作时，仅输出一次即可。\n- 等待 [number秒]：等待一定时长(number为整数)\n- end：表示当前任务完成，是不可缺少的一步。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<video_1>视频是菜鸟APP部分功能的操作。\n你的任务是：从桌面打开菜鸟APP，直接跳过广告，进入该APP的广告设置页面。请为目标任务输出正确的动作规划。", |
| "target": "{\"actions\": [{\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"菜鸟APP\"}}, {\"action\": \"点击\", \"object\": {\"type\": \"text\", \"text\": \"跳过\"}}, {\"action\": \"点击\", \"object\": {\"type\": \"text\", \"text\": \"我的\"}}, {\"action\": \"点击\", \"object\": {\"type\": \"text\", \"text\": \"设置\"}}, {\"action\": \"滑动\", \"object\": {\"type\": \"text\", \"text\": \"上\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"隐私设置\"}}, {\"action\": \"单击\", \"object\": {\"type\": \"text\", \"text\": \"广告设置\"}}, {\"action\": \"end\", \"object\": {\"type\": \"text\", \"text\": \"\"}}]}", |
| "extra_data": { |
| "ability": "task_planning", |
| "task_id": 747, |
| "devices": "Android", |
| "url": { |
| "<video_1>": "screenshots/abilities/task_planning/202602021418_447.mp4" |
| } |
| } |
| } |
| ] |
| } |
