| { |
| "examples": [ |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2400)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>复制快手app首页的第一个关于美食的视频链接。\n你已经完成步骤: 1. 单击 页面第一个视频; 2. 单击 右侧转发箭头图标。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [53, 2081, 270, 2331], \"width\": 1080, \"height\": 2400}}", |
| "extra_data": { |
| "goal": "复制快手app首页的第一个关于美食的视频链接。", |
| "task_id": 395, |
| "instruction": "单击 [Copy Link按钮]", |
| "screen_size": [ |
| 1080, |
| 2400 |
| ], |
| "scene": "通信与社交（社交）->社交媒体互动", |
| "device": "Android", |
| "complexity": "低", |
| "platform": "APP", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/15772498183_1764845991728_00bcba6b_95.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1765173823605_080b4663_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为720*1556)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在已打开的\"小红书\"APP中，搜索\"女生冬季穿搭\"，筛选小个子，进入第一条内容，点赞后收藏。\n你已经完成步骤: 1. 单击 右上角的搜索图标; 2. 输入 女生冬季穿搭; 3. 单击 搜索按钮; 4. 单击 筛选栏中的\"Short person\"选项; 5. 单击 第一条帖子; 6. 单击 下方心形点赞按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [449, 1416, 543, 1465], \"width\": 720, \"height\": 1556}}", |
| "extra_data": { |
| "goal": "在已打开的\"小红书\"APP中，搜索\"女生冬季穿搭\"，筛选小个子，进入第一条内容，点赞后收藏。", |
| "task_id": 602, |
| "instruction": "单击 [下方星形的收藏按钮]", |
| "screen_size": [ |
| 720, |
| 1556 |
| ], |
| "scene": "通信与社交\n（社交）->社交媒体互动", |
| "device": "iOS", |
| "complexity": "中", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512231410_302.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766553467426_afa543ca_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为886*1920)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>现在是11月份，将QQ邮箱中上个月及以前的未读邮件标记为已读。要求：先全选所有未读邮件，然后按收件时间由近到远取消选择本月未读邮件，最后再标记已读。\n你已经完成步骤: 1. 单击 QQ邮箱APP; 2. 单击 收件箱; 3. 单击 顶部的未读邮件按钮; 4. 单击 顶部的管理按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [10, 126, 150, 215], \"width\": 886, \"height\": 1920}}", |
| "extra_data": { |
| "goal": "现在是11月份，将QQ邮箱中上个月及以前的未读邮件标记为已读。要求：先全选所有未读邮件，然后按收件时间由近到远取消选择本月未读邮件，最后再标记已读。", |
| "task_id": 67, |
| "instruction": "单击 [全选]", |
| "screen_size": [ |
| 886, |
| 1920 |
| ], |
| "scene": "生产力与创作（办公场景）->邮件管理", |
| "device": "iOS", |
| "complexity": "高", |
| "platform": "移动端app", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202511051549_67.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1763950463875_44441de6_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为2073*1296)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>我在Safari浏览器搜索\"4399小游戏\"显示\"未接入互联网\"，请打开WiFi开关，自动连接网络后从第一个官网链接进入4399小游戏官网，使用短信登录账号。操作到短信登陆页面即可，不用输入电话号码。\n你已经完成步骤: 1. 单击 WiFi已断开图标; 2. 单击 Wi-Fi右侧的开关条; 3. 单击 上方工具栏的WiFi图标; 4. 单击 \"小游戏,4399小游戏,小游戏大全,双人小游戏大全-www.4399.com\"官网链接; 5. 单击 \"登录\"按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [850, 310, 985, 363], \"width\": 2073, \"height\": 1296}}", |
| "extra_data": { |
| "goal": "我在Safari浏览器搜索\"4399小游戏\"显示\"未接入互联网\"，请打开WiFi开关，自动连接网络后从第一个官网链接进入4399小游戏官网，使用短信登录账号。操作到短信登陆页面即可，不用输入电话号码。", |
| "task_id": 268, |
| "instruction": "单击 [\"短信登录\"按钮]", |
| "screen_size": [ |
| 2073, |
| 1296 |
| ], |
| "scene": "异常（端内异常）->处理加载/网络问题", |
| "device": "macOS", |
| "complexity": "中", |
| "platform": "桌面端网页", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202511031753_268.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/268-6.png" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为3840*2160)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开程序坞中的\"QQ\"App，然后通过左下角的\"更多\"打开\"设置\"，在\"通用\"板块内将\"界面模式\"设置为\"经典模式\"，再将\"外观设置\"设置为\"夜间\"，然后切换到\"权限设置\"将\"加我为好友时的验证方式\"设置为\"需要验证信息\"并应用。\n你已经完成步骤: 1. 单击 程序坞中的QQ图标。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [1133, 1688, 1190, 1739], \"width\": 3840, \"height\": 2160}}", |
| "extra_data": { |
| "goal": "打开程序坞中的\"QQ\"App，然后通过左下角的\"更多\"打开\"设置\"，在\"通用\"板块内将\"界面模式\"设置为\"经典模式\"，再将\"外观设置\"设置为\"夜间\"，然后切换到\"权限设置\"将\"加我为好友时的验证方式\"设置为\"需要验证信息\"并应用。", |
| "task_id": 972, |
| "instruction": "单击 [QQ界面内左下角更多功能菜单按钮]", |
| "screen_size": [ |
| 3840, |
| 2160 |
| ], |
| "scene": "系统与设置（操作设置）->应用设置与管理", |
| "device": "macOS", |
| "complexity": "高", |
| "platform": "App (自身设置)", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512291704_672.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1767090346735_eccbf85d_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2336)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开Safari 浏览器并搜索\"路透社官网\"。\n你已经完成步骤: 1. 单击 Safari浏览器app; 2. 单击 搜索框。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"type\", \"object\": {\"type\": \"text\", \"text\": \"路透社官网\"}}", |
| "extra_data": { |
| "goal": "打开Safari 浏览器并搜索\"路透社官网\"。", |
| "task_id": 323, |
| "instruction": "输入 [路透社官网]", |
| "screen_size": [ |
| 1080, |
| 2336 |
| ], |
| "scene": "信息获取（休闲娱乐）->新闻查询", |
| "device": "iOS", |
| "complexity": "低", |
| "platform": "Browser Use, App端内", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/13927328549_1764120840722_5b023f3e_24 路透社官网.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1764566799445_354fb40e_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在淘宝首页搜索\"无线蓝牙耳机\"，打开搜索到的第一个商品，进入客服对话，一键发送宝贝链接。在聊天框输入\"耳机待机时间多久\"并发送。\n你已经完成步骤: 1. 单击 淘宝首页搜索框; 2. 输入 无线蓝牙耳机; 3. 单击 搜索按钮; 4. 单击 第一个商品卡片。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [857, 280, 951, 341], \"width\": 1920, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "在淘宝首页搜索\"无线蓝牙耳机\"，打开搜索到的第一个商品，进入客服对话，一键发送宝贝链接。在聊天框输入\"耳机待机时间多久\"并发送。", |
| "task_id": 484, |
| "instruction": "单击 [客服按钮]", |
| "screen_size": [ |
| 1920, |
| 1080 |
| ], |
| "scene": "交易与服务（购物）->在线购物", |
| "device": "Windows", |
| "complexity": "高", |
| "platform": "Web", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512161813_184.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1765957522093_29a5a9b1_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为720*1556)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>进入美团的拼好饭页面打开\"饺子粥饼\"类别，按顺序通过标签筛选出满足\"30分钟达\"和\"收录老店\"的商品，选择列表第一个商品进行购买，口味如果需要选择就选择带有微辣的，操作到提交订单页面即可。\n你已经完成步骤: 1. 单击 美团APP; 2. 单击 导航栏中的\"拼好饭\"按钮; 3. 滑动 在分类导航栏区域向左方向滑动; 4. 单击 \"饺子粥饼\"分类按钮; 5. 滑动 在标签栏区域向左方向滑动; 6. 单击 \"30分钟达\"标签; 7. 单击 \"收录老店\"标签; 8. 单击 第一个商品卡片; 9. 单击 最下方的\"免拼购买\"按钮; 10. 单击 微辣口味的选项标签。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [27, 1415, 694, 1511], \"width\": 720, \"height\": 1556}}", |
| "extra_data": { |
| "goal": "进入美团的拼好饭页面打开\"饺子粥饼\"类别，按顺序通过标签筛选出满足\"30分钟达\"和\"收录老店\"的商品，选择列表第一个商品进行购买，口味如果需要选择就选择带有微辣的，操作到提交订单页面即可。", |
| "task_id": 845, |
| "instruction": "单击 [下方的\"确定\"按钮]", |
| "screen_size": [ |
| 720, |
| 1556 |
| ], |
| "scene": "交易与服务（购物）->生活服务（美团定向任务）-小象超市、外卖、拼好饭等", |
| "device": "Android", |
| "complexity": "高", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512191659_12.19.4.37b.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766393482139_934b1db2_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2346)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从桌面打开美团APP，进入\"看病买药\"板块找到\"中医/养生\"，筛选医保定点商户后，打开排序第一的商户详情页。\n你已经完成步骤: 1. 单击 美团APP; 2. 单击 导航栏中的\"看病买药\"选项; 3. 单击 品类分类导航栏中的\"中医。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [928, 1335, 1079, 1419], \"width\": 1080, \"height\": 2346}}", |
| "extra_data": { |
| "goal": "从桌面打开美团APP，进入\"看病买药\"板块找到\"中医/养生\"，筛选医保定点商户后，打开排序第一的商户详情页。", |
| "task_id": 885, |
| "instruction": "单击 [商品筛选标签栏中的\"医保定点\"]", |
| "screen_size": [ |
| 1080, |
| 2346 |
| ], |
| "scene": "交易与服务（购物）->生活服务（美团定向任务）-看病买药", |
| "device": "iOS", |
| "complexity": "中", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512181451_585.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766474842804_352abbfb_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为432*960)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从手机桌面打开美团APP，帮我叫一辆以\"东新街小区西门\"地址为起始点、\"大明宫遗址公园观光车售票处\"地址为终点，要求只留特价车，其它车型先全选后取消。\n你已经完成步骤: 1. 单击 美团APP; 2. 单击 导航栏中的\"打车\"选项; 3. 单击 上车点选择栏; 4. 输入 东新街小区西门; 5. 单击 \"东新街小区-西门\"选项; 6. 单击 目的地输入栏; 7. 输入 大明宫遗址公园观光车售票处; 8. 单击 \"大明宫遗址公园-观光车售票处\"选项; 9. 单击 \"全选经济型\"右侧的选择框。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [315, 546, 409, 570], \"width\": 432, \"height\": 960}}", |
| "extra_data": { |
| "goal": "从手机桌面打开美团APP，帮我叫一辆以\"东新街小区西门\"地址为起始点、\"大明宫遗址公园观光车售票处\"地址为终点，要求只留特价车，其它车型先全选后取消。", |
| "task_id": 865, |
| "instruction": "单击 [\"全选经济型\"右侧的选择框]", |
| "screen_size": [ |
| 432, |
| 960 |
| ], |
| "scene": "交易与服务（购物）->生活服务（美团定向任务）-打车", |
| "device": "Android", |
| "complexity": "高", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512221318_565.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766469844002_4b4cf929_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在Edge浏览器的添加语言设置功能中输入搜索\"中文\"并将繁体中文添加到语言列表中。\n你已经完成步骤: 1. 单击 Edge浏览器图标; 2. 单击 右上角的设置及其他按钮; 3. 单击 设置选项; 4. 单击 左侧边栏的\"语言\"选项; 5. 单击 添加语言按钮; 6. 单击 搜索语言输入框; 7. 输入 中文。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [643, 441, 905, 479], \"width\": 1728, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "在Edge浏览器的添加语言设置功能中输入搜索\"中文\"并将繁体中文添加到语言列表中。", |
| "task_id": 229, |
| "instruction": "单击 [中文（繁体）-中文（繁體）选项]", |
| "screen_size": [ |
| 1728, |
| 1080 |
| ], |
| "scene": "系统与设置（操作设置）->应用设置与管理", |
| "device": "macOS", |
| "complexity": "中", |
| "platform": "桌面端app", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202511061357_229.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1763628516297_3fe41774_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在淘宝首页搜索\"无线蓝牙耳机\"，打开搜索到的第一个商品，进入客服对话，一键发送宝贝链接。在聊天框输入\"耳机待机时间多久\"并发送。\n你已经完成步骤: 1. 单击 淘宝首页搜索框; 2. 输入 无线蓝牙耳机; 3. 单击 搜索按钮; 4. 单击 第一个商品卡片; 5. 单击 客服按钮; 6. 单击 右侧的发送宝贝链接按钮; 7. 单击 聊天框的发送按钮; 8. 单击 聊天输入框; 9. 输入 耳机待机时间多久。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [1266, 1015, 1326, 1052], \"width\": 1920, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "在淘宝首页搜索\"无线蓝牙耳机\"，打开搜索到的第一个商品，进入客服对话，一键发送宝贝链接。在聊天框输入\"耳机待机时间多久\"并发送。", |
| "task_id": 484, |
| "instruction": "单击 [聊天框的发送按钮]", |
| "screen_size": [ |
| 1920, |
| 1080 |
| ], |
| "scene": "交易与服务（购物）->在线购物", |
| "device": "Windows", |
| "complexity": "高", |
| "platform": "Web", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512161813_184.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1765957992607_a0f87a1f_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在淘宝APP首页的大搜索框中，用组合快捷键粘贴已经复制好的\"De Beers\"并进行搜索，进入第一个商品页面，通过右侧浮窗工具复制商品链接。\n你已经完成步骤: 1. 单击 淘宝首页的搜索框。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"press\", \"object\": {\"type\": \"text\", \"text\": \"ctrl,v\"}}", |
| "extra_data": { |
| "goal": "在淘宝APP首页的大搜索框中，用组合快捷键粘贴已经复制好的\"De Beers\"并进行搜索，进入第一个商品页面，通过右侧浮窗工具复制商品链接。", |
| "task_id": 460, |
| "instruction": "按下 [ctrl+v]", |
| "screen_size": [ |
| 1728, |
| 1080 |
| ], |
| "scene": "交易与服务（购物）->在线购物", |
| "device": "Windows", |
| "complexity": "中", |
| "platform": "APP", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512161757_160.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1765951133674_5e111c54_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2336)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开微博发现页面的第一个热搜话题。\n你已经完成步骤: 1. 单击 下方发现按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [5, 359, 524, 430], \"width\": 1080, \"height\": 2336}}", |
| "extra_data": { |
| "goal": "打开微博发现页面的第一个热搜话题。", |
| "task_id": 311, |
| "instruction": "单击 [亡妻在游戏中的房...]", |
| "screen_size": [ |
| 1080, |
| 2336 |
| ], |
| "scene": "信息获取（休闲娱乐）->媒体娱乐", |
| "device": "iOS", |
| "complexity": "低", |
| "platform": "App端内", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/13927328549_1764230163651_105fdfa7_11+微博热搜.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1764311257825_09218b57_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2344)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从桌面开始打开美团APP，进入\"打车\"频道，保持默认上车地址，预约用车时间为\"明天\"默认时间，输入目的地\"\"武汉天河国际机场\"\"，在已勾选的现有车型的基础上追加勾选\"\"六座商务\"\"。执行到车型选择结束即可。除了输入文本以外的其他操作全部使用点击完成。\n你已经完成步骤: 1. 单击 美团APP; 2. 单击 \"打车\"图标; 3. 单击 \"预约用车\"图标; 4. 单击 弹窗内\"12月17日 明天\"; 5. 单击 底部\"确认\"按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [63, 1770, 1015, 1930], \"width\": 1080, \"height\": 2344}}", |
| "extra_data": { |
| "goal": "从桌面开始打开美团APP，进入\"打车\"频道，保持默认上车地址，预约用车时间为\"明天\"默认时间，输入目的地\"\"武汉天河国际机场\"\"，在已勾选的现有车型的基础上追加勾选\"\"六座商务\"\"。执行到车型选择结束即可。除了输入文本以外的其他操作全部使用点击完成。", |
| "task_id": 562, |
| "instruction": "单击 [\"目的地输入框\"]", |
| "screen_size": [ |
| 1080, |
| 2344 |
| ], |
| "scene": "交易与服务（购物）->生活服务（美团定向任务）-打车", |
| "device": "Android", |
| "complexity": "高", |
| "platform": "APP", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512181556_262.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766144230363_2caded48_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开桌面上的 \"This PC\"，然后在 \"Documents\" 中打开 \"Character Profiles\" 文件夹，将里面的文档按照修改日期进行排序，然后打开修改时间最新的 Word 文档。\n你已经完成步骤: 1. 双击 桌面上的This PC按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [586, 489, 735, 521], \"width\": 1920, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "打开桌面上的 \"This PC\"，然后在 \"Documents\" 中打开 \"Character Profiles\" 文件夹，将里面的文档按照修改日期进行排序，然后打开修改时间最新的 Word 文档。", |
| "task_id": 438, |
| "instruction": "单击 [左侧导航栏中\"Documents\"按钮 ]", |
| "screen_size": [ |
| 1920, |
| 1080 |
| ], |
| "scene": "信息获取（休闲娱乐）->文件浏览", |
| "device": "Windows", |
| "complexity": "中", |
| "platform": "App (桌面主)", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512161754_138.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1765940171950_e98962c8_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2408)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在小象超市APP首页的\"海鲜水产\"类搜索\"黄花鱼\"，打开\"销量\"下的第一个商品详情页，然后将它加入购物车。\n你已经完成步骤: 1. 单击 海鲜水产按钮; 2. 单击 左上角的搜索框; 3. 输入 黄花鱼。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [823, 297, 933, 371], \"width\": 1080, \"height\": 2408}}", |
| "extra_data": { |
| "goal": "在小象超市APP首页的\"海鲜水产\"类搜索\"黄花鱼\"，打开\"销量\"下的第一个商品详情页，然后将它加入购物车。", |
| "task_id": 507, |
| "instruction": "单击 [搜索按钮]", |
| "screen_size": [ |
| 1080, |
| 2408 |
| ], |
| "scene": "交易与服务（购物）->生活服务（美团定向任务）-小象超市、外卖、拼好饭等", |
| "device": "Android", |
| "complexity": "中", |
| "platform": "APP", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512161822_207.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1765961703759_ab5f82d7_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为3840*2160)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开程序坞中的\"Safari浏览器\"，通过\"个人收藏\"打开\"携程旅行\"官网，在左侧侧边栏跳转到\"攻略·景点\"页面，在该页面中的搜索栏输入\"滑雪\"并搜索，通过enter键搜索，然后筛选\"景点\"，在不滑动页面的情况下，打开评分最高的一个景点详情页。\n你已经完成步骤: 1. 单击 程序坞中的Safari浏览器; 2. 单击 Favorites下方的携程; 3. 悬停 左侧侧边栏; 4. 单击 左侧侧边导航栏中的\"攻略·景点\"; 5. 单击 携程旅行下方的搜索框; 6. 输入 滑雪。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"press\", \"object\": {\"type\": \"text\", \"text\": \"enter\"}}", |
| "extra_data": { |
| "goal": "打开程序坞中的\"Safari浏览器\"，通过\"个人收藏\"打开\"携程旅行\"官网，在左侧侧边栏跳转到\"攻略·景点\"页面，在该页面中的搜索栏输入\"滑雪\"并搜索，通过enter键搜索，然后筛选\"景点\"，在不滑动页面的情况下，打开评分最高的一个景点详情页。", |
| "task_id": 906, |
| "instruction": "按下 [enter键]", |
| "screen_size": [ |
| 3840, |
| 2160 |
| ], |
| "scene": "交易与服务（购物）->旅行预订", |
| "device": "macOS", |
| "complexity": "高", |
| "platform": "Browser Use", |
| "intent": "模糊意图", |
| "video": "screenshots/abilities/action_execution/202512291704_606.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1767078610978_61596923_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从浏览器中已打开的淘宝商品页面开始，先将该商品在地毯尺寸中选为超立体款，然后颜色选为\"金色线条小猫-圣诞款\"或者\"香槟色涂鸦热带鱼\"，加入购物车后进入该商品所在店铺，打开\"毛巾面巾\"品类，筛选新品，进入第一个商品。\n你已经完成步骤: 1. 滑动 在右侧商品信息区域向上方向滑动; 2. 单击 3.0版Pro超立体款标签; 3. 滑动 在商品规格区域向下方向滑动; 4. 单击 香槟色涂鸦热带鱼标签; 5. 单击 加入购物车按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [823, 282, 932, 336], \"width\": 1728, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "从浏览器中已打开的淘宝商品页面开始，先将该商品在地毯尺寸中选为超立体款，然后颜色选为\"金色线条小猫-圣诞款\"或者\"香槟色涂鸦热带鱼\"，加入购物车后进入该商品所在店铺，打开\"毛巾面巾\"品类，筛选新品，进入第一个商品。", |
| "task_id": 693, |
| "instruction": "单击 [进店按钮]", |
| "screen_size": [ |
| 1728, |
| 1080 |
| ], |
| "scene": "异常（端内异常）->处理界面变化/元素失效", |
| "device": "macOS", |
| "complexity": "高", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202601051313_393.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1767665744746_6fcf16aa_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为432*960)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在小红书app搜索\"秋冬美甲\"，收藏综合列表下的第一条笔记。\n你已经完成步骤: 1. 单击 小红书app; 2. 单击 右上角放大镜符号; 3. 输入 秋冬美甲; 4. 单击 搜索按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [6, 207, 210, 592], \"width\": 432, \"height\": 960}}", |
| "extra_data": { |
| "goal": "在小红书app搜索\"秋冬美甲\"，收藏综合列表下的第一条笔记。", |
| "task_id": 96, |
| "instruction": "单击 [页面中第一条笔记]", |
| "screen_size": [ |
| 432, |
| 960 |
| ], |
| "scene": "通信与社交->社交媒体互动", |
| "device": "Android", |
| "complexity": "中", |
| "platform": "移动端app", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202511041319_3-96.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1763718902859_c8d2a21e_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开程序坞中的\"Microsoft Word\"，在\"模板\"中选中\"空白文档\"，然后通过\"创建\"按钮新建一个文档，文档第一行输入\"2025年度总结\"，通过回车键换行，在上方工具栏的插入功能中，打开左侧边栏中\"桌面\"的\"年度总结\"图片并插入。\n暂无无历史步骤。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [1516, 1016, 1560, 1057], \"width\": 1728, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "打开程序坞中的\"Microsoft Word\"，在\"模板\"中选中\"空白文档\"，然后通过\"创建\"按钮新建一个文档，文档第一行输入\"2025年度总结\"，通过回车键换行，在上方工具栏的插入功能中，打开左侧边栏中\"桌面\"的\"年度总结\"图片并插入。", |
| "task_id": 945, |
| "instruction": "单击 [程序坞中的Microsoft Wordapp]", |
| "screen_size": [ |
| 1728, |
| 1080 |
| ], |
| "scene": "生产力与创作（办公场景）->文档处理", |
| "device": "macOS", |
| "complexity": "高", |
| "platform": "App (桌面主)", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202601041056_645.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1767667436758_76f902df_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1200)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>将微信聊天列表里，第一个联系人聊天框内的最近一个文件直接保存在桌面上名为\"1\"的文件夹，然后将微信app最小化，接着在桌面上的文件夹\"1\"中打开刚刚保存的文件，通过选中整行的方式将第一行的所有字体通过上方操作栏一键加粗。\n你已经完成步骤: 1. 双击 桌面里的微信软件。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [521, 227, 839, 327], \"width\": 1920, \"height\": 1200}}", |
| "extra_data": { |
| "goal": "将微信聊天列表里，第一个联系人聊天框内的最近一个文件直接保存在桌面上名为\"1\"的文件夹，然后将微信app最小化，接着在桌面上的文件夹\"1\"中打开刚刚保存的文件，通过选中整行的方式将第一行的所有字体通过上方操作栏一键加粗。", |
| "task_id": 698, |
| "instruction": "单击 [联系人 \"L\" 的会话]", |
| "screen_size": [ |
| 1920, |
| 1200 |
| ], |
| "scene": "跨应用协作（多端产品使用）->任务接力", |
| "device": "Windows", |
| "complexity": "高", |
| "platform": "App (多应用交互)", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512171125_398.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766117980811_c801572e_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从WPS中通过单击的方式打开名为\"成绩表\"的excel文档，利用一次冻结操作完成对第一行和第一列的冻结，然后将文档另存在桌面上。\n你已经完成步骤: 1. 双击 桌面WPS Office app快捷方式; 2. 单击 成绩表.xlsx。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [131, 304, 217, 328], \"width\": 1728, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "从WPS中通过单击的方式打开名为\"成绩表\"的excel文档，利用一次冻结操作完成对第一行和第一列的冻结，然后将文档另存在桌面上。", |
| "task_id": 54, |
| "instruction": "单击 [B2单元格]", |
| "screen_size": [ |
| 1728, |
| 1080 |
| ], |
| "scene": "生产力与创作（办公场景）->表格处理", |
| "device": "Windows", |
| "complexity": "高", |
| "platform": "桌面端app", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202511251551_54.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1764211468459_9e5ced01_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1290*2796)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在已打开的美团App的\"看病买药\"页面，进入\"问医生\"界面，在\"找专家\"板块选择\"皮肤科\"，进入第一个医生的详情页。\n暂无无历史步骤。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [296, 422, 470, 526], \"width\": 1290, \"height\": 2796}}", |
| "extra_data": { |
| "goal": "在已打开的美团App的\"看病买药\"页面，进入\"问医生\"界面，在\"找专家\"板块选择\"皮肤科\"，进入第一个医生的详情页。", |
| "task_id": 642, |
| "instruction": "单击 [搜索框下的\"问医生\"选项]", |
| "screen_size": [ |
| 1290, |
| 2796 |
| ], |
| "scene": "交易与服务（购物）->生活服务（美团定向任务）-看病买药", |
| "device": "iOS", |
| "complexity": "低", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512231411_342.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766571094753_d745534e_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>使用Google浏览器中已打开的网易163邮箱网页版，编辑一封主题为\"秋日来信\"的邮件，收件人邮箱为：hr@target.com，邮件正文内容是\"秋意正浓，出来喝下午茶否。\"。要求：先填写收件人，再填写主题，最后撰写邮件正文，操作到邮件撰写完成即可，不需要发送。\n暂无无历史步骤。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [118, 205, 242, 253], \"width\": 1728, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "使用Google浏览器中已打开的网易163邮箱网页版，编辑一封主题为\"秋日来信\"的邮件，收件人邮箱为：hr@target.com，邮件正文内容是\"秋意正浓，出来喝下午茶否。\"。要求：先填写收件人，再填写主题，最后撰写邮件正文，操作到邮件撰写完成即可，不需要发送。", |
| "task_id": 62, |
| "instruction": "单击 [写信按钮]", |
| "screen_size": [ |
| 1728, |
| 1080 |
| ], |
| "scene": "生产力与创作（办公场景）->邮件管理", |
| "device": "macOS", |
| "complexity": "中", |
| "platform": "桌面端网页", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202511061325_62.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/62-1.png" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为2880*1800)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从阿里巴巴APP首页开始，输入\"周杰伦专辑\"并用enter键进行搜索，打开第一个结果的\"Choice Commitment\"。\n你已经完成步骤: 1. 单击 阿里巴巴首页\"搜索框\"; 2. 输入 周杰伦专辑。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"press\", \"object\": {\"type\": \"text\", \"text\": \"enter\"}}", |
| "extra_data": { |
| "goal": "从阿里巴巴APP首页开始，输入\"周杰伦专辑\"并用enter键进行搜索，打开第一个结果的\"Choice Commitment\"。", |
| "task_id": 465, |
| "instruction": "按下 [enter键]", |
| "screen_size": [ |
| 2880, |
| 1800 |
| ], |
| "scene": "交易与服务（购物）->在线购物", |
| "device": "macOS", |
| "complexity": "中", |
| "platform": "APP", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512161807_165.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1765953907650_1c4cf2f8_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为432*960)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从QQ音乐APP首页开始，帮我把收藏内的歌曲排序顺序改为\"按默认方式排序\"，接着播放重新排序后的第一首歌，将音质改为\"HQ高品质\"。\n你已经完成步骤: 1. 单击 \"收藏\"功能入口; 2. 单击 歌曲的排序按钮; 3. 单击 弹框中的\"按默认方式排序\"选项。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [3, 275, 431, 346], \"width\": 432, \"height\": 960}}", |
| "extra_data": { |
| "goal": "从QQ音乐APP首页开始，帮我把收藏内的歌曲排序顺序改为\"按默认方式排序\"，接着播放重新排序后的第一首歌，将音质改为\"HQ高品质\"。", |
| "task_id": 909, |
| "instruction": "单击 [第一首歌]", |
| "screen_size": [ |
| 432, |
| 960 |
| ], |
| "scene": "信息获取（休闲娱乐）->媒体娱乐", |
| "device": "Android", |
| "complexity": "中", |
| "platform": "App端内", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512181642_609.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766480844071_b763aa71_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为884*1920)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开\"猫眼\"APP，进入电影/影院，筛选并打开距离我最近的影城，进入右上角的定位图标界面，确认\"到这去\"后，跳转到\"高德地图\"APP内，进入路线界面，筛选地铁优先，进入第一个路线规划界面后开始导航。\n你已经完成步骤: 1. 单击 桌面猫眼app; 2. 单击 底部导航栏\"电影; 3. 单击 \"价格低\"下拉按钮; 4. 单击 选择框中\"距离近\"按钮; 5. 单击 列表中第一家影院信息区域; 6. 单击 观影套餐上方影院地址信息区域; 7. 单击 底部\"到这去\"按钮; 8. 单击 弹框中\"高德地图\"按钮; 9. 单击 公共交通板块下\"地铁优先\"按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [15, 481, 870, 806], \"width\": 884, \"height\": 1920}}", |
| "extra_data": { |
| "goal": "打开\"猫眼\"APP，进入电影/影院，筛选并打开距离我最近的影城，进入右上角的定位图标界面，确认\"到这去\"后，跳转到\"高德地图\"APP内，进入路线界面，筛选地铁优先，进入第一个路线规划界面后开始导航。", |
| "task_id": 985, |
| "instruction": "单击 [列表第一条路线规划区域]", |
| "screen_size": [ |
| 884, |
| 1920 |
| ], |
| "scene": "跨应用协作（多端产品使用）->任务接力", |
| "device": "iOS", |
| "complexity": "高", |
| "platform": "App (多应用交互)", |
| "intent": "模糊意图", |
| "video": "screenshots/abilities/action_execution/202512291718_685.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1767148842668_d853580e_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为886*1920)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>现在是11月份，将QQ邮箱中上个月及以前的未读邮件标记为已读。要求：先全选所有未读邮件，然后按收件时间由近到远取消选择本月未读邮件，最后再标记已读。\n你已经完成步骤: 1. 单击 QQ邮箱APP; 2. 单击 收件箱; 3. 单击 顶部的未读邮件按钮; 4. 单击 顶部的管理按钮; 5. 单击 全选; 6. 单击 列表第一封未读邮件勾选框; 7. 单击 列表第二封未读邮件勾选框。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [13, 754, 103, 852], \"width\": 886, \"height\": 1920}}", |
| "extra_data": { |
| "goal": "现在是11月份，将QQ邮箱中上个月及以前的未读邮件标记为已读。要求：先全选所有未读邮件，然后按收件时间由近到远取消选择本月未读邮件，最后再标记已读。", |
| "task_id": 67, |
| "instruction": "单击 [列表第三封未读邮件勾选框]", |
| "screen_size": [ |
| 886, |
| 1920 |
| ], |
| "scene": "生产力与创作（办公场景）->邮件管理", |
| "device": "iOS", |
| "complexity": "高", |
| "platform": "移动端app", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202511051549_67.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1763950855281_7532fa4f_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为720*1600)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在已打开\"美团\"APP中，进入跑腿中的帮我买，选择人气小吃第一个店铺的第一款食物，在不进入食物详情页面的情况下加入购物车。\n暂无无历史步骤。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [300, 542, 419, 640], \"width\": 720, \"height\": 1600}}", |
| "extra_data": { |
| "goal": "在已打开\"美团\"APP中，进入跑腿中的帮我买，选择人气小吃第一个店铺的第一款食物，在不进入食物详情页面的情况下加入购物车。", |
| "task_id": 631, |
| "instruction": "单击 [分类栏中\"跑腿\"按钮]", |
| "screen_size": [ |
| 720, |
| 1600 |
| ], |
| "scene": "交易与服务（购物）->生活服务（美团定向任务）-跑腿", |
| "device": "Android", |
| "complexity": "中", |
| "platform": "App", |
| "intent": "模糊意图", |
| "video": "screenshots/abilities/action_execution/202512231411_331.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766565111128_cce10d85_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1440*3200)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从桌面进入云闪付，在首页的查银行卡中功能中查询可用余额并显示金额。\n你已经完成步骤: 1. 单击 \"云闪付\"app图标。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [347, 1318, 545, 1519], \"width\": 1440, \"height\": 3200}}", |
| "extra_data": { |
| "goal": "从桌面进入云闪付，在首页的查银行卡中功能中查询可用余额并显示金额。", |
| "task_id": 892, |
| "instruction": "单击 [\"查银行卡\"按钮]", |
| "screen_size": [ |
| 1440, |
| 3200 |
| ], |
| "scene": "交易与服务（购物）->在线银行/支付", |
| "device": "Android", |
| "complexity": "中", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512181350_Screenrecorder-2025-12-18-13-47-02-640.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766476613922_06839091_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为3840*2160)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开程序坞中的\"Safari浏览器\"在搜索栏中输入\"www.dianping.com\"通过回车键进入\"大众点评\"官网，搜索\"烤肉\"后按回车键，在\"地点\"板块中筛选\"行政区\"为\"西城区\"，将搜索结果按照\"人气\"排序，打开排序之后第一条结果的详情页面。\n暂无无历史步骤。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [1781, 2034, 1868, 2117], \"width\": 3840, \"height\": 2160}}", |
| "extra_data": { |
| "goal": "打开程序坞中的\"Safari浏览器\"在搜索栏中输入\"www.dianping.com\"通过回车键进入\"大众点评\"官网，搜索\"烤肉\"后按回车键，在\"地点\"板块中筛选\"行政区\"为\"西城区\"，将搜索结果按照\"人气\"排序，打开排序之后第一条结果的详情页面。", |
| "task_id": 667, |
| "instruction": "单击 [程序坞中Safari浏览器]", |
| "screen_size": [ |
| 3840, |
| 2160 |
| ], |
| "scene": "交易与服务（购物）->旅行预订", |
| "device": "macOS", |
| "complexity": "高", |
| "platform": "Browser Use", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512231411_367.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766643410762_3b762e12_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为432*960)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>进入美团app，用\"跑腿\"功能创建一个潮玩好物的代买订单，操作到订单填写页面即可。\n你已经完成步骤: 1. 单击 美团app; 2. 单击 跑腿; 3. 单击 帮我买。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [257, 461, 320, 528], \"width\": 432, \"height\": 960}}", |
| "extra_data": { |
| "goal": "进入美团app，用\"跑腿\"功能创建一个潮玩好物的代买订单，操作到订单填写页面即可。", |
| "task_id": 173, |
| "instruction": "单击 [潮玩好物]", |
| "screen_size": [ |
| 432, |
| 960 |
| ], |
| "scene": "交易与服务（购物）->跑腿", |
| "device": "Android", |
| "complexity": "中", |
| "platform": "移动端app", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202510271459_173.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1763962070113_d696890f_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2400)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开小象超市APP，等待广告结束，然后进入领券页面，打开买赠专区买1赠1的更多凑单商品页面。\n你已经完成步骤: 1. 单击 小象超市APP。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"wait\", \"object\": {\"type\": \"text\", \"text\": \"3\"}}", |
| "extra_data": { |
| "goal": "打开小象超市APP，等待广告结束，然后进入领券页面，打开买赠专区买1赠1的更多凑单商品页面。", |
| "task_id": 506, |
| "instruction": "等待 [3秒]", |
| "screen_size": [ |
| 1080, |
| 2400 |
| ], |
| "scene": "交易与服务（购物）->生活服务（美团定向任务）-小象超市、外卖、拼好饭等", |
| "device": "Android", |
| "complexity": "中", |
| "platform": "APP", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512181656_206.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766145434765_ce8f4ae2_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为444*960)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从手机桌面开始，进入淘宝APP，搜索\"头盔\"，在筛选条件中先选择中国免费配送，再选择10-100价格区间，将筛选结果中的第一个头盔商品加入收藏。\n你已经完成步骤: 1. 单击 淘宝app图标; 2. 单击 页面上方搜索输入框; 3. 输入 头盔。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": [\"click\", \"click\"], \"object\": [{\"type\": \"bbox\", \"bbox\": [357, 51, 428, 91], \"width\": 444, \"height\": 960}, {\"type\": \"bbox\", \"bbox\": [367, 821, 440, 885], \"width\": 444, \"height\": 960}]}", |
| "extra_data": { |
| "goal": "从手机桌面开始，进入淘宝APP，搜索\"头盔\"，在筛选条件中先选择中国免费配送，再选择10-100价格区间，将筛选结果中的第一个头盔商品加入收藏。", |
| "task_id": 838, |
| "instruction": "单击 [输入框右侧的\"搜索\"按钮]", |
| "screen_size": [ |
| 444, |
| 960 |
| ], |
| "scene": "交易与服务（购物）->在线购物", |
| "device": "Android", |
| "complexity": "高", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512241431_12.24.4.30-b.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766646206625_be192b81_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>将待处理表格文件夹内的所有文件按照上次打开日期进行排序，然后打开最近一次打开过的文件，要求全程使用鼠标操作。\n你已经完成步骤: 1. 双击 待处理表格文件夹; 2. 单击 更改项目的分组方式符号按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [1106, 329, 1233, 353], \"width\": 1728, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "将待处理表格文件夹内的所有文件按照上次打开日期进行排序，然后打开最近一次打开过的文件，要求全程使用鼠标操作。", |
| "task_id": 41, |
| "instruction": "单击 [弹窗内的上次打开日期]", |
| "screen_size": [ |
| 1728, |
| 1080 |
| ], |
| "scene": "信息获取（休闲娱乐）->文件浏览", |
| "device": "macOS", |
| "complexity": "中", |
| "platform": "桌面端app", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512021429_41.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1764658126633_075fd57e_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在程序坞中打开腾讯会议app，并把腾讯会议本地录制文件保存位置更改为桌面的\"会议录屏\"文件夹。\n你已经完成步骤: 1. 单击 腾讯会议app; 2. 单击 腾讯会议app框内左侧的设置图标; 3. 单击 左侧的\"录制\"按钮; 4. 单击 右侧的\"更改\"按钮; 5. 单击 左侧的\"桌面\"按钮; 6. 单击 \"会议录屏\"按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [1233, 756, 1320, 782], \"width\": 1728, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "在程序坞中打开腾讯会议app，并把腾讯会议本地录制文件保存位置更改为桌面的\"会议录屏\"文件夹。", |
| "task_id": 228, |
| "instruction": "单击 [\"打开\"按钮]", |
| "screen_size": [ |
| 1728, |
| 1080 |
| ], |
| "scene": "系统与设置（操作设置）->应用设置与管理", |
| "device": "macOS", |
| "complexity": "中", |
| "platform": "桌面端app", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202511061556_228.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1763456315687_a4a6bb71_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为884*1920)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在\"今日头条\"APP中打开科技频道的头条热榜页面。\n你已经完成步骤: 1. 单击 今日头条app; 2. 滑动 在顶部的频道导航栏区域向左滑动; 3. 单击 导航栏中\"科技\"按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [675, 683, 853, 735], \"width\": 884, \"height\": 1920}}", |
| "extra_data": { |
| "goal": "在\"今日头条\"APP中打开科技频道的头条热榜页面。", |
| "task_id": 22, |
| "instruction": "单击 [科技榜右侧\"完整榜单\"按钮]", |
| "screen_size": [ |
| 884, |
| 1920 |
| ], |
| "scene": "信息获取（休闲娱乐）->新闻查询", |
| "device": "iOS", |
| "complexity": "低", |
| "platform": "移动端app", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202510271519_jrtt.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1763721628531_d7afc856_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为888*1920)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从手机桌面开始，进入\"招商银行\"app，筛选出所有\"2025.11.17-2025.11.30\"的交易记录。要求通过长按虚拟键盘中的删除键将日期删除，先删除第一个日期输入框的内容后输入\"20251117\"，再删除第二个日期输入框的内容后输入\"20251130\"。\n你已经完成步骤: 1. 单击 招商银行app; 2. 单击 Transaction History选项; 3. 单击 \"Recent 1 Week\"时间范围选择栏; 4. 单击 起始日期输入框; 5. 长按 数字键盘上的删除按钮; 6. 输入 20251117; 7. 单击 结束日期输入框; 8. 长按 数字键盘上的删除按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"type\", \"object\": {\"type\": \"text\", \"text\": \"20251130\"}}", |
| "extra_data": { |
| "goal": "从手机桌面开始，进入\"招商银行\"app，筛选出所有\"2025.11.17-2025.11.30\"的交易记录。要求通过长按虚拟键盘中的删除键将日期删除，先删除第一个日期输入框的内容后输入\"20251117\"，再删除第二个日期输入框的内容后输入\"20251130\"。", |
| "task_id": 781, |
| "instruction": "输入 [20251130]", |
| "screen_size": [ |
| 888, |
| 1920 |
| ], |
| "scene": "交易与服务（购物）->在线银行/支付", |
| "device": "iOS", |
| "complexity": "高", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512111735_481.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766111751055_a5863882_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为3456*7680)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从桌面打开微信app的应用分身，将第一个聊天框中的网址内容复制到Chrome浏览器中，在导航栏中滑动打开NBA，进入带有热点精选的第一条视频。复制粘贴均使用长按。\n你已经完成步骤: 1. 单击 II-WeChat APP; 2. 单击 Chats列表第一个联系人; 3. 长按 对话框中的第一条对话。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [913, 373, 1305, 985], \"width\": 3456, \"height\": 7680}}", |
| "extra_data": { |
| "goal": "从桌面打开微信app的应用分身，将第一个聊天框中的网址内容复制到Chrome浏览器中，在导航栏中滑动打开NBA，进入带有热点精选的第一条视频。复制粘贴均使用长按。", |
| "task_id": 709, |
| "instruction": "单击 [Copy]", |
| "screen_size": [ |
| 3456, |
| 7680 |
| ], |
| "scene": "跨应用协作（多端产品使用）->任务接力", |
| "device": "Android", |
| "complexity": "高", |
| "platform": "App (多应用交互)", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512171125_409 2.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766124879947_44370944_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2346)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开微信，进入银行卡绑定列表，打开查看列表中第一张银行卡的交易明细。\n你已经完成步骤: 1. 单击 微信APP; 2. 单击 右下角我; 3. 单击 服务选项; 4. 单击 钱包; 5. 单击 银行卡选项; 6. 单击 第一张银行卡。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [49, 815, 1033, 956], \"width\": 1080, \"height\": 2346}}", |
| "extra_data": { |
| "goal": "打开微信，进入银行卡绑定列表，打开查看列表中第一张银行卡的交易明细。", |
| "task_id": 764, |
| "instruction": "单击 [交易明细]", |
| "screen_size": [ |
| 1080, |
| 2346 |
| ], |
| "scene": "交易与服务（购物）->在线银行/支付", |
| "device": "iOS", |
| "complexity": "中", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512111825_vx1.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766055272189_fe89e55e_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为720*1560)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在\"飞书\"APP已打开的BOSS聊天界面中，通过功能栏将默认列表第一张本地照片选中后发送。\n你已经完成步骤: 1. 单击 输入框下方图片图标按钮; 2. 单击 照片右上角圆圈勾选按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [558, 1438, 695, 1484], \"width\": 720, \"height\": 1560}}", |
| "extra_data": { |
| "goal": "在\"飞书\"APP已打开的BOSS聊天界面中，通过功能栏将默认列表第一张本地照片选中后发送。", |
| "task_id": 582, |
| "instruction": "单击 [\"Send(1)\"按钮]", |
| "screen_size": [ |
| 720, |
| 1560 |
| ], |
| "scene": "通信与社交\n（社交）->即时通讯", |
| "device": "iOS", |
| "complexity": "低", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512231350_282.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766544892973_2cd9273f_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2400)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从桌面打开美团APP，并打开酒店民宿频道，进入收藏/浏览页面后打开收藏页面中的第一条内容。\n你已经完成步骤: 1. 单击 美团APP; 2. 单击 \"酒店民宿\"按钮; 3. 单击 底部\"收藏。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [0, 496, 1078, 953], \"width\": 1080, \"height\": 2400}}", |
| "extra_data": { |
| "goal": "从桌面打开美团APP，并打开酒店民宿频道，进入收藏/浏览页面后打开收藏页面中的第一条内容。", |
| "task_id": 524, |
| "instruction": "单击 [第一个酒店信息]", |
| "screen_size": [ |
| 1080, |
| 2400 |
| ], |
| "scene": "交易与服务（购物）->生活服务（美团定向任务）-酒店民宿", |
| "device": "Android", |
| "complexity": "中", |
| "platform": "APP", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512161825_224.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1765964704689_c6efd3e9_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2346)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开微信，进入银行卡绑定列表，打开查看列表中第一张银行卡的交易明细。\n你已经完成步骤: 1. 单击 微信APP; 2. 单击 右下角我; 3. 单击 服务选项; 4. 单击 钱包; 5. 单击 银行卡选项。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [41, 277, 1040, 591], \"width\": 1080, \"height\": 2346}}", |
| "extra_data": { |
| "goal": "打开微信，进入银行卡绑定列表，打开查看列表中第一张银行卡的交易明细。", |
| "task_id": 764, |
| "instruction": "单击 [第一张银行卡]", |
| "screen_size": [ |
| 1080, |
| 2346 |
| ], |
| "scene": "交易与服务（购物）->在线银行/支付", |
| "device": "iOS", |
| "complexity": "中", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512111825_vx1.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766055264935_16ccdd81_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1280*960)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从淘宝APP首页开始，搜索\"双开门冰箱\"，打开第一个商品，然后进入其店铺首页。\n你已经完成步骤: 1. 单击 页面上方的搜索栏。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"type\", \"object\": {\"type\": \"text\", \"text\": \"双开门冰箱\"}}", |
| "extra_data": { |
| "goal": "从淘宝APP首页开始，搜索\"双开门冰箱\"，打开第一个商品，然后进入其店铺首页。", |
| "task_id": 479, |
| "instruction": "输入 [双开门冰箱]", |
| "screen_size": [ |
| 1280, |
| 960 |
| ], |
| "scene": "交易与服务（购物）->在线购物", |
| "device": "iPadOS", |
| "complexity": "中", |
| "platform": "APP", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512181556_179.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766139920846_5e3bc224_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在已打开QQ音乐网页版中，通过主页搜索框搜索\"易烊千玺\"，筛选\"专辑\"，将最近发行的一张专辑添加到歌单中的\"播放队列\"。要求除了输入文本以外的其他全部操作使用鼠标完成。\n你已经完成步骤: 1. 单击 QQ 音乐网页的搜索输入框; 2. 输入 易烊千玺; 3. 单击 从上往下第二个搜索框右侧的搜索按钮; 4. 单击 QQ 音乐歌手页面的\"专辑\"按钮; 5. 单击 第一个专辑右侧的添加到按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [962, 625, 1132, 670], \"width\": 1920, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "在已打开QQ音乐网页版中，通过主页搜索框搜索\"易烊千玺\"，筛选\"专辑\"，将最近发行的一张专辑添加到歌单中的\"播放队列\"。要求除了输入文本以外的其他全部操作使用鼠标完成。", |
| "task_id": 597, |
| "instruction": "单击 [弹窗中的\"播放队列\"选项]", |
| "screen_size": [ |
| 1920, |
| 1080 |
| ], |
| "scene": "通信与社交\n（社交）->社交媒体互动", |
| "device": "Windows", |
| "complexity": "中", |
| "platform": "Web", |
| "intent": "模糊意图", |
| "video": "screenshots/abilities/action_execution/202512231350_297.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766546846107_263a8cab_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>把飞书\"Boboma\"联系人最新发送的word文档下载后打开，接着将该文档另存在桌面，要求选中保存位置为桌面后使用一键命名功能自动修改文件名，文档另存完成后从任务栏中打开微信，并将刚刚另存在桌面的文件通过发送文件的功能发送给微信联系人fine。要求全程操作均使用鼠标完成。\n你已经完成步骤: 1. 双击 桌面上的飞书app; 2. 单击 联系人Boboma的消息卡片; 3. 单击 Boboma发送的文档右下角的下载符号; 4. 单击 Boboma发送的文档右下角的查看文件夹符号按钮; 5. 双击 弹窗内的\"热门社交软件.docx\"文档; 6. 单击 左上方的文件按钮; 7. 单击 弹窗内的\"另存为(A)\"按钮; 8. 单击 侧边栏的桌面选项。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [1727, 764, 1854, 799], \"width\": 1920, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "把飞书\"Boboma\"联系人最新发送的word文档下载后打开，接着将该文档另存在桌面，要求选中保存位置为桌面后使用一键命名功能自动修改文件名，文档另存完成后从任务栏中打开微信，并将刚刚另存在桌面的文件通过发送文件的功能发送给微信联系人fine。要求全程操作均使用鼠标完成。", |
| "task_id": 240, |
| "instruction": "单击 [文件名称右侧的一键命名按钮]", |
| "screen_size": [ |
| 1920, |
| 1080 |
| ], |
| "scene": "跨应用协作（多端产品使用）->任务接力", |
| "device": "Windows", |
| "complexity": "高", |
| "platform": "跨应用", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202601091350_240.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1767950967334_0314779b_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为3840*2160)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开程序坞中的\"Safari浏览器\"在搜索栏中输入\"www.dianping.com\"通过回车键进入\"大众点评\"官网，搜索\"烤肉\"后按回车键，在\"地点\"板块中筛选\"行政区\"为\"西城区\"，将搜索结果按照\"人气\"排序，打开排序之后第一条结果的详情页面。\n你已经完成步骤: 1. 单击 程序坞中Safari浏览器; 2. 输入 www.dianping.com; 3. 按下 回车键; 4. 单击 大众点评网页内的搜索框; 5. 输入 烤肉; 6. 按下 回车键; 7. 单击 地点板块中\"行政区\"按钮; 8. 单击 行政区下\"西城区\"按钮; 9. 单击 商家列表上方导航栏中\"人气\"按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": [\"click\", \"click\"], \"object\": [{\"type\": \"bbox\", \"bbox\": [1583, 1417, 1902, 1659], \"width\": 3840, \"height\": 2160}, {\"type\": \"bbox\", \"bbox\": [1932, 1404, 2502, 1498], \"width\": 3840, \"height\": 2160}]}", |
| "extra_data": { |
| "goal": "打开程序坞中的\"Safari浏览器\"在搜索栏中输入\"www.dianping.com\"通过回车键进入\"大众点评\"官网，搜索\"烤肉\"后按回车键，在\"地点\"板块中筛选\"行政区\"为\"西城区\"，将搜索结果按照\"人气\"排序，打开排序之后第一条结果的详情页面。", |
| "task_id": 667, |
| "instruction": "单击 [列表中第一个商家信息区域]", |
| "screen_size": [ |
| 3840, |
| 2160 |
| ], |
| "scene": "交易与服务（购物）->旅行预订", |
| "device": "macOS", |
| "complexity": "高", |
| "platform": "Browser Use", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512231411_367.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766644064516_7b9a322c_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2338)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从已打开的\"成都市美术馆\"小程序中，帮我预约一张\"漫长的调查\"展览的门票，我的身份信息已经录入过了可以直接选择，注意我只有下周一和下周二有空，且预约的时间越早越好。操作到\"选择观众\"结束即可。\n你已经完成步骤: 1. 单击 漫长的调查海报; 2. 滑动 在预约须知内容区域向上方滑动; 3. 单击 我已阅读，同意预约; 4. 单击 星期二2025-10-21选项卡; 5. 单击 10:00-12:00时段选项卡; 6. 滑动 在预约页面向上方滑动; 7. 单击 新增观众按钮; 8. 单击 可直接选择的观众信息。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [577, 2096, 997, 2214], \"width\": 1080, \"height\": 2338}}", |
| "extra_data": { |
| "goal": "从已打开的\"成都市美术馆\"小程序中，帮我预约一张\"漫长的调查\"展览的门票，我的身份信息已经录入过了可以直接选择，注意我只有下周一和下周二有空，且预约的时间越早越好。操作到\"选择观众\"结束即可。", |
| "task_id": 294, |
| "instruction": "单击 [确定按钮]", |
| "screen_size": [ |
| 1080, |
| 2338 |
| ], |
| "scene": "异常（端内异常）->处理界面变化/元素失效", |
| "device": "iOS", |
| "complexity": "高", |
| "platform": "移动端app", |
| "intent": "间接意图", |
| "video": "screenshots/abilities/action_execution/202510211519_294.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/294-9.png" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开名为\"演讲稿.docx\"文档，通过上方工具栏中的\"页面\"，将页面改为两栏文字。\n你已经完成步骤: 1. 双击 演讲稿的文档; 2. 单击 上方操作栏中的页面选项。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [699, 84, 739, 133], \"width\": 1920, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "打开名为\"演讲稿.docx\"文档，通过上方工具栏中的\"页面\"，将页面改为两栏文字。", |
| "task_id": 940, |
| "instruction": "单击 [页面下的分栏按钮]", |
| "screen_size": [ |
| 1920, |
| 1080 |
| ], |
| "scene": "生产力与创作（办公场景）->文档处理", |
| "device": "Windows", |
| "complexity": "中", |
| "platform": "App (桌面主)", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512291700_640.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1767081033690_fb7a2e61_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>网页版微博的热搜榜单加载不出来，现在打开WiFi开关，自动连接网络，使榜单加载成功。\n你已经完成步骤: 1. 单击 右下角的系统功能托盘; 2. 单击 WiFi图标按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": [\"click\", \"click\"], \"object\": [{\"type\": \"bbox\", \"bbox\": [112, 70, 169, 119], \"width\": 1920, \"height\": 1080}, {\"type\": \"bbox\", \"bbox\": [1002, 733, 1143, 796], \"width\": 1920, \"height\": 1080}]}", |
| "extra_data": { |
| "goal": "网页版微博的热搜榜单加载不出来，现在打开WiFi开关，自动连接网络，使榜单加载成功。", |
| "task_id": 261, |
| "instruction": "单击 [刷新按钮]", |
| "screen_size": [ |
| 1920, |
| 1080 |
| ], |
| "scene": "异常（端内异常）->处理加载/网络问题", |
| "device": "Windows", |
| "complexity": "低", |
| "platform": "桌面端网页", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202511121127_261.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/261-3.png" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>复制当前网页顶部的页面链接，并将该链接贴入桌面上经济学文档中的B2单元格，要求通过上方操作功能区进行粘贴，然后在A2单元格输入\"通货膨胀\"，最后将文档保存。要求通过关闭按钮退出网页页面，除文本输入外其余操作全部用鼠标点击操作进行。\n你已经完成步骤: 1. 右击 从上往下数第一个搜索框; 2. 单击 弹出菜单中的copy选项; 3. 单击 网页右上角的叉号按钮; 4. 双击 名为经济学的Excel表格。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [137, 376, 419, 410], \"width\": 1920, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "复制当前网页顶部的页面链接，并将该链接贴入桌面上经济学文档中的B2单元格，要求通过上方操作功能区进行粘贴，然后在A2单元格输入\"通货膨胀\"，最后将文档保存。要求通过关闭按钮退出网页页面，除文本输入外其余操作全部用鼠标点击操作进行。", |
| "task_id": 795, |
| "instruction": "单击 [表格内的B2格子]", |
| "screen_size": [ |
| 1920, |
| 1080 |
| ], |
| "scene": "跨应用协作（多端产品使用->数据共享", |
| "device": "Windows", |
| "complexity": "高", |
| "platform": "App (多应用交互)", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512111606_495.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1765451210569_00be3dfe_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为3840*2160)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开桌面\"Work Docs\"文件夹的\"Q2\"文档，通过快捷键选中全文后先通过上方的工具栏调整字体格式为\"黑体\"，然后通过右击浮窗设置首行缩进2字符，再设置1.5倍行距，最后保存文档。\n你已经完成步骤: 1. 双击 桌面上的Work Docs文件夹; 2. 双击 文件夹中的Q2文档; 3. 按下 command + A; 4. 单击 文档编辑界面的字体下拉框; 5. 单击 弹出框中的黑体选项。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"rightClick\", \"object\": {\"type\": \"bbox\", \"bbox\": [1040, 531, 1774, 1763], \"width\": 3840, \"height\": 2160}}", |
| "extra_data": { |
| "goal": "打开桌面\"Work Docs\"文件夹的\"Q2\"文档，通过快捷键选中全文后先通过上方的工具栏调整字体格式为\"黑体\"，然后通过右击浮窗设置首行缩进2字符，再设置1.5倍行距，最后保存文档。", |
| "task_id": 450, |
| "instruction": "右击 [文档页面]", |
| "screen_size": [ |
| 3840, |
| 2160 |
| ], |
| "scene": "生产力与创作（办公场景）->文档处理", |
| "device": "macOS", |
| "complexity": "高", |
| "platform": "App (桌面主)", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512161803_150.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1765942620951_0e141020_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开程序坞中的\"Microsoft Word\"，在\"模板\"中选中\"空白文档\"，然后通过\"创建\"按钮新建一个文档，文档第一行输入\"2025年度总结\"，通过回车键换行，在上方工具栏的插入功能中，打开左侧边栏中\"桌面\"的\"年度总结\"图片并插入。\n你已经完成步骤: 1. 单击 程序坞中的Microsoft Wordapp; 2. 单击 空白文档模版; 3. 单击 创建按钮; 4. 输入 2025年度总结; 5. 按下 回车键; 6. 单击 功能栏中的插入选项。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [262, 136, 333, 214], \"width\": 1728, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "打开程序坞中的\"Microsoft Word\"，在\"模板\"中选中\"空白文档\"，然后通过\"创建\"按钮新建一个文档，文档第一行输入\"2025年度总结\"，通过回车键换行，在上方工具栏的插入功能中，打开左侧边栏中\"桌面\"的\"年度总结\"图片并插入。", |
| "task_id": 945, |
| "instruction": "单击 [\"图片\"下拉按钮]", |
| "screen_size": [ |
| 1728, |
| 1080 |
| ], |
| "scene": "生产力与创作（办公场景）->文档处理", |
| "device": "macOS", |
| "complexity": "高", |
| "platform": "App (桌面主)", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202601041056_645.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1767684870870_94fe3d12_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1200)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>将WPS APP内的\"文档云同步\"功能打开。全部操作使用鼠标左键。\n你已经完成步骤: 1. 双击 WPS APP。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [1676, 78, 1726, 123], \"width\": 1920, \"height\": 1200}}", |
| "extra_data": { |
| "goal": "将WPS APP内的\"文档云同步\"功能打开。全部操作使用鼠标左键。", |
| "task_id": 215, |
| "instruction": "单击 [右上角的全局设置图标]", |
| "screen_size": [ |
| 1920, |
| 1200 |
| ], |
| "scene": "系统与设置（操作设置）->操作系统设置", |
| "device": "Windows", |
| "complexity": "中", |
| "platform": "桌面端app", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202510211811_215.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1763965857632_8ccd082b_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为444*960)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开浏览器，输入搜索\"凤凰网\"并进入凤凰网官网，从上方导航栏进入科技板块，打开人工智能分类下第一条快讯。\n你已经完成步骤: 1. 单击 桌面浏览器app; 2. 单击 页面上方搜索框; 3. 输入 凤凰网。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": [\"click\", \"click\", \"click\"], \"object\": [{\"type\": \"bbox\", \"bbox\": [360, 56, 417, 89], \"width\": 444, \"height\": 960}, {\"type\": \"bbox\", \"bbox\": [22, 366, 396, 409], \"width\": 444, \"height\": 960}, {\"type\": \"bbox\", \"bbox\": [369, 824, 439, 883], \"width\": 444, \"height\": 960}]}", |
| "extra_data": { |
| "goal": "打开浏览器，输入搜索\"凤凰网\"并进入凤凰网官网，从上方导航栏进入科技板块，打开人工智能分类下第一条快讯。", |
| "task_id": 921, |
| "instruction": "单击 [搜索框右侧\"搜索\"按钮]", |
| "screen_size": [ |
| 444, |
| 960 |
| ], |
| "scene": "信息获取（休闲娱乐）->新闻查询", |
| "device": "Android", |
| "complexity": "高", |
| "platform": "Browser Use", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512231342_12.23.4.107c.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766650013341_c8501c82_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开Microsoft Edge浏览器，在从上往下数第二个搜索框中输入\"缤客\"，进入\"Booking.com缤客-全球酒店预订网站\"官网首页，先输入目的地为\"Wuyi Square\"，后选择入住时间为\"2025年12月19日\"，最后选择退房时间为\"2025年12月21日\"，搜索后，滑动页面进入第一个评分10分的酒店。\n你已经完成步骤: 1. 双击 Microsoft Edge浏览器。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [486, 123, 1346, 169], \"width\": 1920, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "打开Microsoft Edge浏览器，在从上往下数第二个搜索框中输入\"缤客\"，进入\"Booking.com缤客-全球酒店预订网站\"官网首页，先输入目的地为\"Wuyi Square\"，后选择入住时间为\"2025年12月19日\"，最后选择退房时间为\"2025年12月21日\"，搜索后，滑动页面进入第一个评分10分的酒店。", |
| "task_id": 660, |
| "instruction": "单击 [网页内从上到下第二个搜索框]", |
| "screen_size": [ |
| 1920, |
| 1080 |
| ], |
| "scene": "交易与服务（购物）->旅行预订", |
| "device": "Windows", |
| "complexity": "高", |
| "platform": "Browser Use", |
| "intent": "模糊意图", |
| "video": "screenshots/abilities/action_execution/202512231411_360.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766633645193_e59eec70_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在淘宝首页搜索\"无线蓝牙耳机\"，打开搜索到的第一个商品，进入客服对话，一键发送宝贝链接。在聊天框输入\"耳机待机时间多久\"并发送。\n你已经完成步骤: 1. 单击 淘宝首页搜索框; 2. 输入 无线蓝牙耳机; 3. 单击 搜索按钮; 4. 单击 第一个商品卡片; 5. 单击 客服按钮; 6. 单击 右侧的发送宝贝链接按钮; 7. 单击 聊天框的发送按钮; 8. 单击 聊天输入框。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"type\", \"object\": {\"type\": \"text\", \"text\": \"耳机待机时间多久\"}}", |
| "extra_data": { |
| "goal": "在淘宝首页搜索\"无线蓝牙耳机\"，打开搜索到的第一个商品，进入客服对话，一键发送宝贝链接。在聊天框输入\"耳机待机时间多久\"并发送。", |
| "task_id": 484, |
| "instruction": "输入 [耳机待机时间多久]", |
| "screen_size": [ |
| 1920, |
| 1080 |
| ], |
| "scene": "交易与服务（购物）->在线购物", |
| "device": "Windows", |
| "complexity": "高", |
| "platform": "Web", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512161813_184.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1765957937967_85d836a5_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1440*3200)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在阿里巴巴app中，打开关注店铺列表中的第一家店铺，在\"商品\"中选择第一件价格在\"150-200元\"的商品进行收藏。\n你已经完成步骤: 1. 单击 阿里巴巴app; 2. 单击 右下角\"我的\"; 3. 单击 页面上方\"关注店铺\"; 4. 单击 列表第一家店铺卡片; 5. 单击 178新人价的商品卡片。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [1026, 188, 1111, 272], \"width\": 1440, \"height\": 3200}}", |
| "extra_data": { |
| "goal": "在阿里巴巴app中，打开关注店铺列表中的第一家店铺，在\"商品\"中选择第一件价格在\"150-200元\"的商品进行收藏。", |
| "task_id": 124, |
| "instruction": "单击 [右上角星星符号]", |
| "screen_size": [ |
| 1440, |
| 3200 |
| ], |
| "scene": "交易与服务（购物）->在线购物", |
| "device": "Android", |
| "complexity": "中", |
| "platform": "移动端app", |
| "intent": "间接意图", |
| "video": "screenshots/abilities/action_execution/202511051705_Screenrecorder-2025-11-05-16-40-59-861.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1763718589085_541171db_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2340)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>进入\"instagram\"App，打开列表第一条快拍。\n暂无无历史步骤。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [471, 0, 746, 1189], \"width\": 1080, \"height\": 2340}}", |
| "extra_data": { |
| "goal": "进入\"instagram\"App，打开列表第一条快拍。", |
| "task_id": 594, |
| "instruction": "单击 [\"instagram\"App]", |
| "screen_size": [ |
| 1080, |
| 2340 |
| ], |
| "scene": "通信与社交\n（社交）->社交媒体互动", |
| "device": "iOS", |
| "complexity": "低", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202601041755_294.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1767673031584_34b14647_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为888*1920)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在小红书APP搜索\"长款白色连衣裙单人拍照\"，筛选出图文笔记中点赞最多的一条，（要求按照先最多点赞后图文的顺序进行筛选）。将该笔记的首张图片保存本地相册，然后用淘宝识图这条裙子，选择列表中出现的第一个同款，并在有库存的码数中，将默认选项的商品选择最大码加入一件到购物车。\n你已经完成步骤: 1. 单击 小红书app; 2. 单击 搜索放大镜图标; 3. 输入 长款白色连衣裙单人拍照; 4. 单击 右下角键盘键搜索; 5. 单击 \"全部\"选项卡; 6. 单击 排序依据分类中的\"最多点赞\"; 7. 单击 笔记类型分类里的\"图文\"; 8. 单击 收起; 9. 单击 第一条图文笔记; 10. 长按 第一张图片; 11. 单击 弹出框内的\"保存\"; 12. 滑动 从屏幕底部向上滑动; 13. 单击 淘宝APP; 14. 单击 搜索框里的\"相机\"图标。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [4, 1697, 215, 1912], \"width\": 888, \"height\": 1920}}", |
| "extra_data": { |
| "goal": "在小红书APP搜索\"长款白色连衣裙单人拍照\"，筛选出图文笔记中点赞最多的一条，（要求按照先最多点赞后图文的顺序进行筛选）。将该笔记的首张图片保存本地相册，然后用淘宝识图这条裙子，选择列表中出现的第一个同款，并在有库存的码数中，将默认选项的商品选择最大码加入一件到购物车。", |
| "task_id": 244, |
| "instruction": "单击 [左下角第一张图片]", |
| "screen_size": [ |
| 888, |
| 1920 |
| ], |
| "scene": "跨应用协作（多端产品使用）->多端购物支付", |
| "device": "iOS", |
| "complexity": "高", |
| "platform": "跨应用", |
| "intent": "间接意图", |
| "video": "screenshots/abilities/action_execution/202510271844_2011.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1763971859723_1d92a0fa_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从Microsoft Edge浏览器首页出发，在写有\"搜索网页\"的搜索框中输入搜索\"可画\"，然后在搜索结果页的Canva可画网页框中打开\"PPT制作\"。\n你已经完成步骤: 1. 单击 页面中有文字信息\"搜索网页\"的搜索框。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"type\", \"object\": {\"type\": \"text\", \"text\": \"可画\"}}", |
| "extra_data": { |
| "goal": "从Microsoft Edge浏览器首页出发，在写有\"搜索网页\"的搜索框中输入搜索\"可画\"，然后在搜索结果页的Canva可画网页框中打开\"PPT制作\"。", |
| "task_id": 923, |
| "instruction": "输入 [可画]", |
| "screen_size": [ |
| 1920, |
| 1080 |
| ], |
| "scene": "信息获取（休闲娱乐）->网站搜索导航", |
| "device": "Windows", |
| "complexity": "中", |
| "platform": "Browser Use", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512291704_623.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1767078428734_698a93cb_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为3456*7680)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从桌面打开咸鱼APP，输入搜索\"富士mini12\"，打开列表中第一个带有卖家信用极好的商品，购买一个白色款。操作到选好颜色即可。\n你已经完成步骤: 1. 单击 咸鱼App; 2. 单击 上方搜索框; 3. 输入 富士mini12; 4. 单击 搜索按钮; 5. 单击 搜索结果中的第一个商品卡片。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [1381, 7207, 2355, 7592], \"width\": 3456, \"height\": 7680}}", |
| "extra_data": { |
| "goal": "从桌面打开咸鱼APP，输入搜索\"富士mini12\"，打开列表中第一个带有卖家信用极好的商品，购买一个白色款。操作到选好颜色即可。", |
| "task_id": 829, |
| "instruction": "单击 [右下角立即购买按钮]", |
| "screen_size": [ |
| 3456, |
| 7680 |
| ], |
| "scene": "交易与服务（购物）->在线购物", |
| "device": "Android", |
| "complexity": "中", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512171712_529.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766387400077_418805d5_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为2560*1440)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从桌面打开抖音从左侧边栏打开朋友频道。并给朋友的第一条视频评论：早上好。\n你已经完成步骤: 1. 双击 抖音App; 2. 单击 左侧功能栏\"朋友\"选项; 3. 单击 页面右侧评论按钮; 4. 单击 右下方评论输入框。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"type\", \"object\": {\"type\": \"text\", \"text\": \"早上好\"}}", |
| "extra_data": { |
| "goal": "从桌面打开抖音从左侧边栏打开朋友频道。并给朋友的第一条视频评论：早上好。", |
| "task_id": 810, |
| "instruction": "输入 [早上好]", |
| "screen_size": [ |
| 2560, |
| 1440 |
| ], |
| "scene": "通信与社交（社交）->社交媒体互动", |
| "device": "Windows", |
| "complexity": "中", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512171507_20251217_150418.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766389180352_95b2635b_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在已打开QQ音乐网页版中，通过主页搜索框搜索\"易烊千玺\"，筛选\"专辑\"，将最近发行的一张专辑添加到歌单中的\"播放队列\"。要求除了输入文本以外的其他全部操作使用鼠标完成。\n暂无无历史步骤。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [1049, 104, 1240, 143], \"width\": 1920, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "在已打开QQ音乐网页版中，通过主页搜索框搜索\"易烊千玺\"，筛选\"专辑\"，将最近发行的一张专辑添加到歌单中的\"播放队列\"。要求除了输入文本以外的其他全部操作使用鼠标完成。", |
| "task_id": 597, |
| "instruction": "单击 [QQ 音乐网页的搜索输入框]", |
| "screen_size": [ |
| 1920, |
| 1080 |
| ], |
| "scene": "通信与社交\n（社交）->社交媒体互动", |
| "device": "Windows", |
| "complexity": "中", |
| "platform": "Web", |
| "intent": "模糊意图", |
| "video": "screenshots/abilities/action_execution/202512231350_297.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766546715855_3728bc66_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为960*1280)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从美团App\"团购\"界面开始，打开\"医疗医美\"板块，筛选高分店。\n你已经完成步骤: 1. 单击 分类栏中\"医疗医美\"按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [767, 187, 949, 237], \"width\": 960, \"height\": 1280}}", |
| "extra_data": { |
| "goal": "从美团App\"团购\"界面开始，打开\"医疗医美\"板块，筛选高分店。", |
| "task_id": 539, |
| "instruction": "单击 [\"高分店\"按钮]", |
| "screen_size": [ |
| 960, |
| 1280 |
| ], |
| "scene": "交易与服务（购物）->生活服务（美团定向任务）-团购", |
| "device": "iPadOS", |
| "complexity": "低", |
| "platform": "APP", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512181556_239.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766369410054_de90c6d1_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从微信APP首页面开始，将微信列表第一位置顶好友发送的最新一张图片通过鼠标复制粘贴到桌面\"瑞幸\"文件夹里，然后将该图片通过右键重命名为\"第一杯\"，并通过enter键保存。\n你已经完成步骤: 1. 单击 微信聊天列表的瑞幸; 2. 右击 聊天对话框中好友最新发送过来的图片; 3. 单击 弹出框中的复制按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"doubleClick\", \"object\": {\"type\": \"bbox\", \"bbox\": [217, 424, 286, 512], \"width\": 1728, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "从微信APP首页面开始，将微信列表第一位置顶好友发送的最新一张图片通过鼠标复制粘贴到桌面\"瑞幸\"文件夹里，然后将该图片通过右键重命名为\"第一杯\"，并通过enter键保存。", |
| "task_id": 699, |
| "instruction": "双击 [桌面上的瑞幸文件夹]", |
| "screen_size": [ |
| 1728, |
| 1080 |
| ], |
| "scene": "跨应用协作（多端产品使用）->任务接力", |
| "device": "Windows", |
| "complexity": "高", |
| "platform": "App (多应用交互)", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512181510_399.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766119933475_189489e9_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在程序坞中打开Edge浏览器，在最上方网址输入栏输入\"cmbchina.com\"后通过回车键进入中国招商银行-一网通官网首页，在官网首页的\"实时行情\"板块内找到并打开\"外汇实时汇率\"，然后查询港币的历史汇率走势图并在页面中完整显示，保持默认查询时间即可。\n你已经完成步骤: 1. 单击 程序坞中的Edge浏览器; 2. 输入 cmbchina.com; 3. 按下 enter键; 4. 滑动 在招商银行展示界面向上滑动; 5. 悬停 实时行情板块; 6. 单击 外汇实时汇率选项。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"scroll\", \"object\": {\"type\": \"text\", \"text\": \"up\", \"bbox\": [0, 213, 1726, 999], \"width\": 1728, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "在程序坞中打开Edge浏览器，在最上方网址输入栏输入\"cmbchina.com\"后通过回车键进入中国招商银行-一网通官网首页，在官网首页的\"实时行情\"板块内找到并打开\"外汇实时汇率\"，然后查询港币的历史汇率走势图并在页面中完整显示，保持默认查询时间即可。", |
| "task_id": 208, |
| "instruction": "滑动 [在招商银行展示界面向上滑动]", |
| "screen_size": [ |
| 1728, |
| 1080 |
| ], |
| "scene": "交易与服务（购物）->在线银行/支付", |
| "device": "macOS", |
| "complexity": "高", |
| "platform": "桌面端网页", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202511061314_208.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1763621685315_50366377_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开Microsoft Edge浏览器，在从上往下数第二个搜索框中输入\"缤客\"，进入\"Booking.com缤客-全球酒店预订网站\"官网首页，先输入目的地为\"Wuyi Square\"，后选择入住时间为\"2025年12月19日\"，最后选择退房时间为\"2025年12月21日\"，搜索后，滑动页面进入第一个评分10分的酒店。\n你已经完成步骤: 1. 双击 Microsoft Edge浏览器; 2. 单击 网页内从上到下第二个搜索框; 3. 输入 缤客; 4. 单击 搜索按钮; 5. 单击 第一条结果; 6. 单击 目的地选择框; 7. 输入 Wuyi Square。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [789, 348, 1091, 405], \"width\": 1920, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "打开Microsoft Edge浏览器，在从上往下数第二个搜索框中输入\"缤客\"，进入\"Booking.com缤客-全球酒店预订网站\"官网首页，先输入目的地为\"Wuyi Square\"，后选择入住时间为\"2025年12月19日\"，最后选择退房时间为\"2025年12月21日\"，搜索后，滑动页面进入第一个评分10分的酒店。", |
| "task_id": 660, |
| "instruction": "单击 [日期选择框]", |
| "screen_size": [ |
| 1920, |
| 1080 |
| ], |
| "scene": "交易与服务（购物）->旅行预订", |
| "device": "Windows", |
| "complexity": "高", |
| "platform": "Browser Use", |
| "intent": "模糊意图", |
| "video": "screenshots/abilities/action_execution/202512231411_360.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1767081504186_e0e01069_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2346)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从桌面的美团app开始，进入打车模块，先输入设置\"西安钟楼饭店\"为起点，再输入设置\"大唐不夜城\"为终点，保留默认车型的同时，再加选上所有豪华型网约车后，随后立即发布订单。操作到预付车费页面即可。要求全程不使用滑动操作。\n你已经完成步骤: 1. 单击 美团应用图标; 2. 单击 \"打车\"功能按钮; 3. 单击 上车地点选择按钮; 4. 输入 西安钟楼饭店; 5. 单击 \"西安钟楼饭店\" 条目。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [63, 1109, 1018, 1265], \"width\": 1080, \"height\": 2346}}", |
| "extra_data": { |
| "goal": "从桌面的美团app开始，进入打车模块，先输入设置\"西安钟楼饭店\"为起点，再输入设置\"大唐不夜城\"为终点，保留默认车型的同时，再加选上所有豪华型网约车后，随后立即发布订单。操作到预付车费页面即可。要求全程不使用滑动操作。", |
| "task_id": 867, |
| "instruction": "单击 [\"输入你的目的地\"输入框]", |
| "screen_size": [ |
| 1080, |
| 2346 |
| ], |
| "scene": "交易与服务（购物）->生活服务（美团定向任务）-打车", |
| "device": "iOS", |
| "complexity": "高", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512181600_567.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766400999237_e75a6195_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1152*720)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从招商银行pc版首页开始，进入账户总览，在尾号为4697的一卡通的交易记录中，先选择近三个月的交易数据，然后再使用高级查询功能筛选出该时间范围内支出金额为200-500元的交易记录。\n你已经完成步骤: 1. 单击 左侧导航栏中的账户总览; 2. 单击 全部账户下的交易查询按钮; 3. 单击 \"最近三个月\"选项; 4. 单击 最右侧的高级查询按钮; 5. 单击 支出范围右侧的第一个输入框; 6. 输入 200; 7. 单击 支出范围右侧的第二个输入框。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"type\", \"object\": {\"type\": \"text\", \"text\": \"500\"}}", |
| "extra_data": { |
| "goal": "从招商银行pc版首页开始，进入账户总览，在尾号为4697的一卡通的交易记录中，先选择近三个月的交易数据，然后再使用高级查询功能筛选出该时间范围内支出金额为200-500元的交易记录。", |
| "task_id": 770, |
| "instruction": "输入 [500]", |
| "screen_size": [ |
| 1152, |
| 720 |
| ], |
| "scene": "交易与服务（购物）->在线银行/支付", |
| "device": "Windows", |
| "complexity": "高", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512171832_12.17.1.c4.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766110913016_b51bcfe3_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>把微信名为\"L.L.L主理人\"联系人最新发送的一条消息内容复制粘贴进桌面上名为\"工作待办事项记录\"的word文档中，然后点击保存文档内容。要求用右键单击复制，快捷键进行粘贴。\n你已经完成步骤: 1. 右击 L.L.L主理人发送的消息内容; 2. 单击 复制按钮; 3. 双击 工作待办事项记录.docx。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"press\", \"object\": {\"type\": \"text\", \"text\": \"command,v\"}}", |
| "extra_data": { |
| "goal": "把微信名为\"L.L.L主理人\"联系人最新发送的一条消息内容复制粘贴进桌面上名为\"工作待办事项记录\"的word文档中，然后点击保存文档内容。要求用右键单击复制，快捷键进行粘贴。", |
| "task_id": 235, |
| "instruction": "按下 [command键和V键]", |
| "screen_size": [ |
| 1728, |
| 1080 |
| ], |
| "scene": "跨应用协作（多端产品使用）->数据共享", |
| "device": "macOS", |
| "complexity": "中", |
| "platform": "跨应用", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202511061611_235.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1763628330431_c91a1d0d_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为886*1920)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从抖音app正在播放的短视频页面开始，在评论区里艾特推荐用户列表里的第一位用户。\n你已经完成步骤: 1. 单击 右侧的评论符号; 2. 单击 右下角的@符号。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [27, 533, 190, 706], \"width\": 886, \"height\": 1920}}", |
| "extra_data": { |
| "goal": "从抖音app正在播放的短视频页面开始，在评论区里艾特推荐用户列表里的第一位用户。", |
| "task_id": 99, |
| "instruction": "单击 [弹窗中的第一个用户]", |
| "screen_size": [ |
| 886, |
| 1920 |
| ], |
| "scene": "通信与社交->社交媒体互动", |
| "device": "iOS", |
| "complexity": "中", |
| "platform": "移动端app", |
| "intent": "间接意图", |
| "video": "screenshots/abilities/action_execution/202511051551_99.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1763703580908_017e5e55_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为884*1920)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在已打开的Alibaba.comAPP首页顶部搜索框搜索\"保温杯\"，筛选销量由高到低，进入列表第一个商品页面。\n你已经完成步骤: 1. 单击 搜索框。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"type\", \"object\": {\"type\": \"text\", \"text\": \"保温杯\"}}", |
| "extra_data": { |
| "goal": "在已打开的Alibaba.comAPP首页顶部搜索框搜索\"保温杯\"，筛选销量由高到低，进入列表第一个商品页面。", |
| "task_id": 468, |
| "instruction": "输入 [保温杯]", |
| "screen_size": [ |
| 884, |
| 1920 |
| ], |
| "scene": "交易与服务（购物）->在线购物", |
| "device": "Android", |
| "complexity": "中", |
| "platform": "APP", |
| "intent": "模糊意图", |
| "video": "screenshots/abilities/action_execution/202512161807_168.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1768288479128_1e19376f_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2338)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开美团app的\"丽人美发\"频道，进入\"美甲\"板块，筛选出排序为\"好评优先\"的\"神券商家\"列表，进入筛选后列表中第一个商家的在线咨询页面，并询问：\"是否能预约今天19点的美甲\"。发出询问即可。\n你已经完成步骤: 1. 单击 美团app; 2. 单击 丽人美发按钮; 3. 单击 上方分类栏的美甲按钮; 4. 单击 智能排序按钮; 5. 单击 弹窗内的好评优先按钮; 6. 单击 神券商家按钮; 7. 单击 第一家商家卡片。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [297, 2143, 425, 2246], \"width\": 1080, \"height\": 2338}}", |
| "extra_data": { |
| "goal": "打开美团app的\"丽人美发\"频道，进入\"美甲\"板块，筛选出排序为\"好评优先\"的\"神券商家\"列表，进入筛选后列表中第一个商家的在线咨询页面，并询问：\"是否能预约今天19点的美甲\"。发出询问即可。", |
| "task_id": 130, |
| "instruction": "单击 [在线咨询按钮]", |
| "screen_size": [ |
| 1080, |
| 2338 |
| ], |
| "scene": "交易与服务（购物）->小象超市、外卖、拼好饭等", |
| "device": "Android", |
| "complexity": "高", |
| "platform": "移动端app", |
| "intent": "间接意图", |
| "video": "screenshots/abilities/action_execution/202511041456_424.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1763705466274_bbf30889_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为2560*1440)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从支付宝网页版首页开始，通过上方导航栏打开交易记录，筛选查看2025.6.18-2025.12.18内单笔最大的购物退款的账单详情。要求先筛选时间（通过点击月份文本进行操作），再筛选分类，最后筛选状态。\n你已经完成步骤: 1. 单击 右上方\"交易记录\"按钮; 2. 单击 \"2025.11.18\"时间选择框; 3. 单击 弹框内\"十一月\"文字区域; 4. 单击 弹框中\"六月\"按钮; 5. 单击 弹框中\"18\"按钮; 6. 单击 分类栏中\"购物\"按钮; 7. 单击 状态栏中\"退款\"按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [1685, 752, 1774, 778], \"width\": 2560, \"height\": 1440}}", |
| "extra_data": { |
| "goal": "从支付宝网页版首页开始，通过上方导航栏打开交易记录，筛选查看2025.6.18-2025.12.18内单笔最大的购物退款的账单详情。要求先筛选时间（通过点击月份文本进行操作），再筛选分类，最后筛选状态。", |
| "task_id": 896, |
| "instruction": "单击 [列表从上到下第3条账单信息右侧对应的\"详情\"按钮]", |
| "screen_size": [ |
| 2560, |
| 1440 |
| ], |
| "scene": "交易与服务（购物）->在线银行/支付", |
| "device": "Windows", |
| "complexity": "高", |
| "platform": "Web", |
| "intent": "模糊意图", |
| "video": "screenshots/abilities/action_execution/202512181635_20251218_163403.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766478473032_b79ffb4d_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在淘宝首页搜索\"暖手宝\"将搜索结果列表的第一个商品（默认规格）加入购物车。\n暂无无历史步骤。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [553, 256, 1181, 314], \"width\": 1920, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "在淘宝首页搜索\"暖手宝\"将搜索结果列表的第一个商品（默认规格）加入购物车。", |
| "task_id": 456, |
| "instruction": "单击 [淘宝首页的搜索框]", |
| "screen_size": [ |
| 1920, |
| 1080 |
| ], |
| "scene": "交易与服务（购物）->在线购物", |
| "device": "Windows", |
| "complexity": "中", |
| "platform": "Web", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512161757_156.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1765949952633_7c1d6f22_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>淘宝App页面无法正常加载，打开wifi开关，自动连接网络，并让当前所在的淘宝页面正常加载出来。\n你已经完成步骤: 1. 单击 windows任务栏中的网络、音量和电源图标组合区域; 2. 单击 wifi图标。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": [\"click\", \"click\"], \"object\": [{\"type\": \"bbox\", \"bbox\": [765, 454, 1197, 497], \"width\": 1920, \"height\": 1080}, {\"type\": \"bbox\", \"bbox\": [116, 74, 154, 109], \"width\": 1920, \"height\": 1080}]}", |
| "extra_data": { |
| "goal": "淘宝App页面无法正常加载，打开wifi开关，自动连接网络，并让当前所在的淘宝页面正常加载出来。", |
| "task_id": 270, |
| "instruction": "单击 [重试选项]", |
| "screen_size": [ |
| 1920, |
| 1080 |
| ], |
| "scene": "异常（端内异常）->处理加载/网络问题", |
| "device": "Windows", |
| "complexity": "低", |
| "platform": "桌面端app", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202510311633_270.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/270-3.png" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2400)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>使用京东app的秒送，在咖啡奶茶板块，筛选并收藏能满足\"30分钟送达\"的\"销量最高\"的一家商家店铺。要求筛选顺序为先送达时间，后销量。\n你已经完成步骤: 1. 单击 京东app; 2. 单击 顶部的\"秒送\"按钮; 3. 单击 分类栏的\"咖啡奶茶\"按钮; 4. 单击 中间筛选栏的\"30分钟送达\"按钮; 5. 单击 左上角的\"综合排序\"按钮; 6. 单击 \"销量最高\"按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [30, 402, 1051, 653], \"width\": 1080, \"height\": 2400}}", |
| "extra_data": { |
| "goal": "使用京东app的秒送，在咖啡奶茶板块，筛选并收藏能满足\"30分钟送达\"的\"销量最高\"的一家商家店铺。要求筛选顺序为先送达时间，后销量。", |
| "task_id": 125, |
| "instruction": "单击 [商家列表中第一个商家]", |
| "screen_size": [ |
| 1080, |
| 2400 |
| ], |
| "scene": "交易与服务（购物）->在线购物", |
| "device": "Android", |
| "complexity": "高", |
| "platform": "移动端app", |
| "intent": "间接意图", |
| "video": "screenshots/abilities/action_execution/202511181304_125.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/125-7.png" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为432*960)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开麦当劳app进入\"我的\"页面，在\"设置\"中将\"语言\"切换为\"中文\"。\n你已经完成步骤: 1. 单击 桌面麦当劳app; 2. 单击 底部\"Me\"按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"scroll\", \"object\": {\"type\": \"text\", \"text\": \"up\", \"bbox\": [0, 136, 431, 884], \"width\": 432, \"height\": 960}}", |
| "extra_data": { |
| "goal": "打开麦当劳app进入\"我的\"页面，在\"设置\"中将\"语言\"切换为\"中文\"。", |
| "task_id": 746, |
| "instruction": "滑动 [在当前页面用户名下方区域向上滑动]", |
| "screen_size": [ |
| 432, |
| 960 |
| ], |
| "scene": "系统与设置（操作设置）->应用设置与管理", |
| "device": "Android", |
| "complexity": "中", |
| "platform": "App (自身设置)", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512161808_446.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766131652681_924dfa3a_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开桌面上的\"剪映专业版\"App,选择进入右上角的\"全局设置\"中，在剪辑页面将默认帧率设置为30帧每秒并保存。\n你已经完成步骤: 1. 双击 \"剪映专业版\"App。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [1414, 150, 1440, 175], \"width\": 1920, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "打开桌面上的\"剪映专业版\"App,选择进入右上角的\"全局设置\"中，在剪辑页面将默认帧率设置为30帧每秒并保存。", |
| "task_id": 965, |
| "instruction": "单击 [右上角设置图标]", |
| "screen_size": [ |
| 1920, |
| 1080 |
| ], |
| "scene": "系统与设置（操作设置）->应用设置与管理", |
| "device": "Windows", |
| "complexity": "中", |
| "platform": "App (自身设置)", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512291705_665.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1767088526053_f935e5b8_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为432*960)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在美团app团购频道内筛选出距离热门商圈\"钟楼/鼓楼\"最近的团购商品，并收藏筛选后列表中第一个娱乐类商品团购。要求先筛选商圈再筛选距离。\n你已经完成步骤: 1. 单击 美团app; 2. 单击 分类栏中\"团购\"按钮; 3. 单击 \"附近\"下拉符按钮; 4. 单击 弹框中\"热门商圈\"标签。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [199, 289, 432, 333], \"width\": 432, \"height\": 960}}", |
| "extra_data": { |
| "goal": "在美团app团购频道内筛选出距离热门商圈\"钟楼/鼓楼\"最近的团购商品，并收藏筛选后列表中第一个娱乐类商品团购。要求先筛选商圈再筛选距离。", |
| "task_id": 859, |
| "instruction": "单击 [\"钟楼/鼓楼\"标签]", |
| "screen_size": [ |
| 432, |
| 960 |
| ], |
| "scene": "交易与服务（购物）->生活服务（美团定向任务）-团购", |
| "device": "Android", |
| "complexity": "高", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512181026_559.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766398091736_a4df1978_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从桌面打开名为\"悬秤\"的word文档，在上方操作栏中先将文档内容设置为多页显示，再将护眼模式打开，接着将纸张方向改为横向后，将分栏设置为三栏。最后打印。要求操作到打印设置页面即可，且全程操作均使用鼠标左键完成。\n你已经完成步骤: 1. 双击 名为\"悬秤\"的word文档; 2. 单击 导航栏的\"视图\"选项; 3. 单击 \"多页\"选项; 4. 单击 护眼模式选项; 5. 单击 功能栏的\"页面\"选项; 6. 单击 纸张方向选项; 7. 单击 弹窗内的\"横向\"选项; 8. 单击 分栏选项功能。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [679, 332, 845, 376], \"width\": 1920, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "从桌面打开名为\"悬秤\"的word文档，在上方操作栏中先将文档内容设置为多页显示，再将护眼模式打开，接着将纸张方向改为横向后，将分栏设置为三栏。最后打印。要求操作到打印设置页面即可，且全程操作均使用鼠标左键完成。", |
| "task_id": 944, |
| "instruction": "单击 [\"三栏(T)\"选项]", |
| "screen_size": [ |
| 1920, |
| 1080 |
| ], |
| "scene": "生产力与创作（办公场景）->文档处理", |
| "device": "Windows", |
| "complexity": "高", |
| "platform": "App (桌面主)", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202601041617_644.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1767666462814_8ede29cb_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>通过桌面快捷方式进入谷歌浏览器，在浏览器首页的搜索框输入网址\"ent.163.com\"，用enter键进入网易娱乐网页。\n暂无无历史步骤。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"doubleClick\", \"object\": {\"type\": \"bbox\", \"bbox\": [217, 401, 284, 517], \"width\": 1728, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "通过桌面快捷方式进入谷歌浏览器，在浏览器首页的搜索框输入网址\"ent.163.com\"，用enter键进入网易娱乐网页。", |
| "task_id": 13, |
| "instruction": "双击 [桌面上方的Google Chrome浏览器]", |
| "screen_size": [ |
| 1728, |
| 1080 |
| ], |
| "scene": "信息获取（休闲娱乐）->新闻查询", |
| "device": "Windows", |
| "complexity": "低", |
| "platform": "桌面端网页", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202511111425_13%203.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1763630778785_43d6e87f_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为3840*2160)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开桌面名为\"001表格\"文件夹中的\"库存清单\"表格，插入数据透视表，分析数据区域输入\"A1:P12\"通过回车键完成操作，数据透析表插入位置保持默认位置，然后通过拖拽的方式将\"物品名称\"添加进\"Rows\"区域，再通过拖拽的方式将\"物品名称\"添加进\"Values\"区域，最后通过拖拽的方式将\"存放位置\"添加进\"Columns\"区域。\n你已经完成步骤: 1. 双击 桌面\"001表格\"文件夹; 2. 双击 \"库存清单\"表格文件; 3. 单击 导航栏中\"Insert\"按钮; 4. 单击 左上方\"PivotTable\"按钮; 5. 输入 A1:P12; 6. 按下 回车键; 7. 拖拽 选中右侧FIELD NAME框中\"物品名称\"内容移动至下方\"Rows\"区域内; 8. 拖拽 选中右侧FIELD NAME框中\"物品名称\"内容移动至下方\"Values\"区域内。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"scroll\", \"object\": {\"type\": \"text\", \"text\": \"up\", \"bbox\": [3286, 874, 3832, 1079], \"width\": 3840, \"height\": 2160}}", |
| "extra_data": { |
| "goal": "打开桌面名为\"001表格\"文件夹中的\"库存清单\"表格，插入数据透视表，分析数据区域输入\"A1:P12\"通过回车键完成操作，数据透析表插入位置保持默认位置，然后通过拖拽的方式将\"物品名称\"添加进\"Rows\"区域，再通过拖拽的方式将\"物品名称\"添加进\"Values\"区域，最后通过拖拽的方式将\"存放位置\"添加进\"Columns\"区域。", |
| "task_id": 570, |
| "instruction": "滑动 [在FIELD NAME下方选择框区域内向上方滑动]", |
| "screen_size": [ |
| 3840, |
| 2160 |
| ], |
| "scene": "生产力与创作\n（办公场景）->表格处理", |
| "device": "macOS", |
| "complexity": "高", |
| "platform": "App（桌面主）", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512231349_270.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766542192334_af7abd1e_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1440*3200)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>进入美团APP的看病买药频道，打开24小时服务的肠胃消化板块，在专治呕吐的药品列表中，将出现的第一个进口药品加入购物车，商家就选择默认的在售商家。\n你已经完成步骤: 1. 单击 分类栏中\"看病买药\"按钮; 2. 单击 24h服务中\"肠胃消化\"按钮; 3. 单击 左侧\"呕吐\"按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [324, 727, 1403, 1058], \"width\": 1440, \"height\": 3200}}", |
| "extra_data": { |
| "goal": "进入美团APP的看病买药频道，打开24小时服务的肠胃消化板块，在专治呕吐的药品列表中，将出现的第一个进口药品加入购物车，商家就选择默认的在售商家。", |
| "task_id": 883, |
| "instruction": "单击 [列表中第一件商品信息内容]", |
| "screen_size": [ |
| 1440, |
| 3200 |
| ], |
| "scene": "交易与服务（购物）->生活服务（美团定向任务）-看病买药", |
| "device": "Android", |
| "complexity": "中", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512181358_Screenrecorder-2025-12-18-13-56-37-660.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766474582178_f9b48ea9_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为888*1920)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在拼多多app的\"百亿补贴\"频道搜索关键字\"发膜\"，然后筛选出商品发货地是当前所在省份的发膜商品。\n你已经完成步骤: 1. 单击 拼多多app; 2. 单击 百亿补贴 大牌正品; 3. 单击 搜索框; 4. 输入 发膜。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": [\"click\", \"click\", \"click\"], \"object\": [{\"type\": \"bbox\", \"bbox\": [719, 1536, 880, 1751], \"width\": 888, \"height\": 1920}, {\"type\": \"bbox\", \"bbox\": [703, 101, 858, 178], \"width\": 888, \"height\": 1920}, {\"type\": \"bbox\", \"bbox\": [23, 209, 880, 284], \"width\": 888, \"height\": 1920}]}", |
| "extra_data": { |
| "goal": "在拼多多app的\"百亿补贴\"频道搜索关键字\"发膜\"，然后筛选出商品发货地是当前所在省份的发膜商品。", |
| "task_id": 116, |
| "instruction": "单击 [虚拟键盘的搜索按钮]", |
| "screen_size": [ |
| 888, |
| 1920 |
| ], |
| "scene": "交易与服务（购物）->在线购物", |
| "device": "iOS", |
| "complexity": "中", |
| "platform": "移动端app", |
| "intent": "间接意图", |
| "video": "screenshots/abilities/action_execution/202511051653_116.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1763950840052_5a4dcbd2_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为2560*1440)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从桌面上的PowerPoint应用中新建一个PPT文档，并在该文档制作一个自我介绍PPT的首页，标题文字内容为：\"自我介绍\"，副标题内容为：\"姓名：黎明\"，然后通过页面顶部的工具栏，将PPT首页背景设置为标准色蓝色的纯色填充。要求除了文本内容用键盘打字外，其余操作均使用鼠标。\n你已经完成步骤: 1. 双击 PowerPoint app; 2. 单击 新建下方的\"空白演示文稿\"; 3. 单击 \"单击此处添加标题\"文本框; 4. 输入 自我介绍; 5. 单击 \"单击此处添加副标题\"文本框; 6. 输入 姓名：黎明。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [145, 44, 189, 76], \"width\": 2560, \"height\": 1440}}", |
| "extra_data": { |
| "goal": "从桌面上的PowerPoint应用中新建一个PPT文档，并在该文档制作一个自我介绍PPT的首页，标题文字内容为：\"自我介绍\"，副标题内容为：\"姓名：黎明\"，然后通过页面顶部的工具栏，将PPT首页背景设置为标准色蓝色的纯色填充。要求除了文本内容用键盘打字外，其余操作均使用鼠标。", |
| "task_id": 61, |
| "instruction": "单击 [工具栏中的\"设计\"按钮]", |
| "screen_size": [ |
| 2560, |
| 1440 |
| ], |
| "scene": "生产力与创作（办公场景）->PPT制作", |
| "device": "Windows", |
| "complexity": "高", |
| "platform": "桌面端app", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202511051545_20251105_154343.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1763723939839_774d3af0_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>edge浏览器中打开的是一个图片素材网站，现在滑动页面将第一个出现带有鸟类的图片下载下来，以最大的格式下载至默认位置（\"下载\"文件夹）即可；下载完成后从任务栏进入已打开的PowerPoint，选中最后一张幻灯片并通过上方的工具栏将刚下载的图片插入到其中。\n你已经完成步骤: 1. 滑动 向上滑动浏览器的整个界面; 2. 单击 页面中有猫头鹰的图片; 3. 单击 图片页面右侧的 \"Download\"按钮; 4. 单击 图片下载选项中的\"3056×2037\"的选项; 5. 单击 弹出框中的\"Download\"按钮; 6. 等待 3秒; 7. 单击 程序坞中的Powerpoint; 8. 单击 右侧视图区的第4张幻灯片; 9. 单击 操作功能区的Pictures按钮; 10. 单击 下拉菜单中的\"This Device...\" 选项; 11. 单击 名为\"owl-9294302(1)\"的图片。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [242, 234, 850, 267], \"width\": 1728, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "edge浏览器中打开的是一个图片素材网站，现在滑动页面将第一个出现带有鸟类的图片下载下来，以最大的格式下载至默认位置（\"下载\"文件夹）即可；下载完成后从任务栏进入已打开的PowerPoint，选中最后一张幻灯片并通过上方的工具栏将刚下载的图片插入到其中。", |
| "task_id": 791, |
| "instruction": "单击 [弹窗中的Insert按钮]", |
| "screen_size": [ |
| 1728, |
| 1080 |
| ], |
| "scene": "跨应用协作（多端产品使用->数据共享", |
| "device": "Windows", |
| "complexity": "高", |
| "platform": "App (多应用交互)", |
| "intent": "模糊意图", |
| "video": "screenshots/abilities/action_execution/202512111432_491.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766030104910_83a78549_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为720*1560)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在\"抖音\"APP中，进入搜索界面，打开抖音热榜下排行第一的内容，筛选最新发布，进入并播放第一条内容。\n你已经完成步骤: 1. 单击 抖音首页右上角的搜索图标。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [165, 804, 284, 838], \"width\": 720, \"height\": 1560}}", |
| "extra_data": { |
| "goal": "在\"抖音\"APP中，进入搜索界面，打开抖音热榜下排行第一的内容，筛选最新发布，进入并播放第一条内容。", |
| "task_id": 413, |
| "instruction": "单击 [虚拟键盘上方的抖音热榜]", |
| "screen_size": [ |
| 720, |
| 1560 |
| ], |
| "scene": "信息获取（休闲娱乐）->媒体娱乐", |
| "device": "iOS", |
| "complexity": "中", |
| "platform": "App端内", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512161743_113.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1765937679128_248f1d5b_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为2560*1440)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从Edge浏览器首页进入京东热卖，在京东页面搜索\"保温杯\"，打开商品列表（非热卖商品列表）中第一个\"今天买明天到\"的商品页面，并下单一个容量最小的黑色保温杯，购买的地址在订单界面选择有公司标识的。操作到收银台界面即可。\n你已经完成步骤: 1. 单击 首页推荐界面中的\"京东热卖\"选项。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [899, 148, 1617, 187], \"width\": 2560, \"height\": 1440}}", |
| "extra_data": { |
| "goal": "从Edge浏览器首页进入京东热卖，在京东页面搜索\"保温杯\"，打开商品列表（非热卖商品列表）中第一个\"今天买明天到\"的商品页面，并下单一个容量最小的黑色保温杯，购买的地址在订单界面选择有公司标识的。操作到收银台界面即可。", |
| "task_id": 833, |
| "instruction": "单击 [京东首页搜索框]", |
| "screen_size": [ |
| 2560, |
| 1440 |
| ], |
| "scene": "交易与服务（购物）->在线购物", |
| "device": "Windows", |
| "complexity": "高", |
| "platform": "Web", |
| "intent": "模糊意图", |
| "video": "screenshots/abilities/action_execution/202512191403_14000.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766388674762_da283154_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2336)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开微博发现页面的第一个热搜话题。\n暂无无历史步骤。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [479, 2116, 597, 2233], \"width\": 1080, \"height\": 2336}}", |
| "extra_data": { |
| "goal": "打开微博发现页面的第一个热搜话题。", |
| "task_id": 311, |
| "instruction": "单击 [下方发现按钮]", |
| "screen_size": [ |
| 1080, |
| 2336 |
| ], |
| "scene": "信息获取（休闲娱乐）->媒体娱乐", |
| "device": "iOS", |
| "complexity": "低", |
| "platform": "App端内", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/13927328549_1764230163651_105fdfa7_11+微博热搜.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1764311185545_4ead1be8_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2336)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从Safari浏览器搜索\"今日金价\"。\n你已经完成步骤: 1. 单击 Safari浏览器app; 2. 单击 搜索框。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"type\", \"object\": {\"type\": \"text\", \"text\": \"今日金价\"}}", |
| "extra_data": { |
| "goal": "从Safari浏览器搜索\"今日金价\"。", |
| "task_id": 322, |
| "instruction": "输入 [今日金价]", |
| "screen_size": [ |
| 1080, |
| 2336 |
| ], |
| "scene": "信息获取（休闲娱乐）->新闻查询", |
| "device": "iOS", |
| "complexity": "低", |
| "platform": "Browser Use, App端内", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/13927328549_1764063283503_baf67c49_23 今日金价.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1764566296907_70ace32a_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1620*2160)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>进入小红书app中热点排名最高的话题。\n暂无无历史步骤。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [267, 1618, 417, 1798], \"width\": 1620, \"height\": 2160}}", |
| "extra_data": { |
| "goal": "进入小红书app中热点排名最高的话题。", |
| "task_id": 20, |
| "instruction": "单击 [小红书app]", |
| "screen_size": [ |
| 1620, |
| 2160 |
| ], |
| "scene": "信息获取（休闲娱乐）->新闻查询", |
| "device": "iPadOS", |
| "complexity": "低", |
| "platform": "移动端app", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202511101310_20.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1763631440443_14af63cf_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为3840*2160)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开桌面上的\"Work\"文件夹，通过右键唤出菜单栏的方式将名为\"归档\"的压缩包解压到当前文件夹内，再打开解压之后的\"归档\"文件夹中的\"Meeting\"ppt文件，通过PPT页面底部的功能区将幻灯片以\"阅读视图\"方式进行放映，一页一页播放幻灯片结束后退出放映。\n你已经完成步骤: 1. 双击 桌面上的\"Work\"文件夹; 2. 右击 名为\"归档\"的压缩包; 3. 单击 弹窗中的\"Open\"按钮; 4. 双击 解压后的\"归档\"文件夹; 5. 双击 \"Meeting\"ppt文件; 6. 单击 PPT 演示界面底部的 \"阅读视图\"切换按钮; 7. 单击 阅读视图下的PPT页面区域; 8. 单击 阅读视图下的PPT页面区域; 9. 单击 阅读视图下的PPT页面区域。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [89, 375, 3084, 2001], \"width\": 3840, \"height\": 2160}}", |
| "extra_data": { |
| "goal": "打开桌面上的\"Work\"文件夹，通过右键唤出菜单栏的方式将名为\"归档\"的压缩包解压到当前文件夹内，再打开解压之后的\"归档\"文件夹中的\"Meeting\"ppt文件，通过PPT页面底部的功能区将幻灯片以\"阅读视图\"方式进行放映，一页一页播放幻灯片结束后退出放映。", |
| "task_id": 937, |
| "instruction": "单击 [阅读视图下的PPT页面区域]", |
| "screen_size": [ |
| 3840, |
| 2160 |
| ], |
| "scene": "信息获取（休闲娱乐）->文件浏览", |
| "device": "macOS", |
| "complexity": "高", |
| "platform": "App (桌面主)", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512291700_637.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1767081615052_9b455208_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2338)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>微信页面显示\"当前网络不可用\"，请在手机系统设置里请重新打开WiFi开关，自动连接网络，注意不要启用蜂窝数据，操作到成功连接网络即可。\n你已经完成步骤: 1. 滑动 从屏幕底部向上滑动。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [824, 996, 1022, 1242], \"width\": 1080, \"height\": 2338}}", |
| "extra_data": { |
| "goal": "微信页面显示\"当前网络不可用\"，请在手机系统设置里请重新打开WiFi开关，自动连接网络，注意不要启用蜂窝数据，操作到成功连接网络即可。", |
| "task_id": 274, |
| "instruction": "单击 [设置app]", |
| "screen_size": [ |
| 1080, |
| 2338 |
| ], |
| "scene": "异常（端内异常）->处理加载/网络问题", |
| "device": "iOS", |
| "complexity": "低", |
| "platform": "移动端app", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202511051533_274.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/274-2.png" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为720*1600)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在 \"美团\" App已打开的\"看病买药\" 页面中，进入 \"找医院\" 板块，在 \"三甲\" 分类下的医院列表中，进入第一家医院的详情页。\n你已经完成步骤: 1. 单击 导航栏中的\"找医院\"。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [299, 242, 380, 300], \"width\": 720, \"height\": 1600}}", |
| "extra_data": { |
| "goal": "在 \"美团\" App已打开的\"看病买药\" 页面中，进入 \"找医院\" 板块，在 \"三甲\" 分类下的医院列表中，进入第一家医院的详情页。", |
| "task_id": 641, |
| "instruction": "单击 [筛选栏中的\"三甲\"选项]", |
| "screen_size": [ |
| 720, |
| 1600 |
| ], |
| "scene": "交易与服务（购物）->生活服务（美团定向任务）-看病买药", |
| "device": "Android", |
| "complexity": "低", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512231411_341.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766570641916_7218afa2_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为720*1556)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从桌面开始，进入Edge浏览器，在弹窗内永久授予Edge访问已安装应用信息。\n暂无无历史步骤。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [390, 643, 499, 752], \"width\": 720, \"height\": 1556}}", |
| "extra_data": { |
| "goal": "从桌面开始，进入Edge浏览器，在弹窗内永久授予Edge访问已安装应用信息。", |
| "task_id": 672, |
| "instruction": "单击 [Edge浏览器APP]", |
| "screen_size": [ |
| 720, |
| 1556 |
| ], |
| "scene": "异常（端内异常）->处理弹窗/对话框", |
| "device": "Android", |
| "complexity": "低", |
| "platform": "Web", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512221122_12.22.3.4.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766383568291_fe6569f0_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开桌面上的\"剪映专业版\"App,选择进入右上角的\"全局设置\"中，在剪辑页面将默认帧率设置为30帧每秒并保存。\n你已经完成步骤: 1. 双击 \"剪映专业版\"App; 2. 单击 右上角设置图标; 3. 单击 弹窗中的\"全局设置\"; 4. 单击 弹窗上方的\"剪辑\"标签; 5. 单击 默认帧率后的下拉框; 6. 单击 默认帧率下拉框中的\"30.00帧。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [786, 882, 958, 913], \"width\": 1920, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "打开桌面上的\"剪映专业版\"App,选择进入右上角的\"全局设置\"中，在剪辑页面将默认帧率设置为30帧每秒并保存。", |
| "task_id": 965, |
| "instruction": "单击 [弹窗中的\"保存\"按钮]", |
| "screen_size": [ |
| 1920, |
| 1080 |
| ], |
| "scene": "系统与设置（操作设置）->应用设置与管理", |
| "device": "Windows", |
| "complexity": "中", |
| "platform": "App (自身设置)", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512291705_665.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1767088546362_fe6442ae_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2400)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在已打开的抖音app中，搜索\"2025年度回忆录\"并筛选官方活动入口，如果过程中出现\"网络错误\"情况，就将该App退出至桌面，从系统自带的设置App中打开WLAN开关，然后退回桌面打开抖音app，再点击重试，直到页面加载成功再继续进行任务。\n你已经完成步骤: 1. 单击 右上角搜索图标。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"type\", \"object\": {\"type\": \"text\", \"text\": \"2025年度回忆录\"}}", |
| "extra_data": { |
| "goal": "在已打开的抖音app中，搜索\"2025年度回忆录\"并筛选官方活动入口，如果过程中出现\"网络错误\"情况，就将该App退出至桌面，从系统自带的设置App中打开WLAN开关，然后退回桌面打开抖音app，再点击重试，直到页面加载成功再继续进行任务。", |
| "task_id": 995, |
| "instruction": "输入 [2025年度回忆录]", |
| "screen_size": [ |
| 1080, |
| 2400 |
| ], |
| "scene": "异常（端内异常）->处理加载/网络问题", |
| "device": "Android", |
| "complexity": "高", |
| "platform": "App", |
| "intent": "模糊意图", |
| "video": "screenshots/abilities/action_execution/202601041436_695.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1767669275940_a2f1d1b2_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为432*960)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从手机桌面打开WeChat app的应用分身，在我的账单中查找2020年整年的支出构成。\n你已经完成步骤: 1. 单击 WeChat app的应用分身。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [336, 900, 423, 950], \"width\": 432, \"height\": 960}}", |
| "extra_data": { |
| "goal": "从手机桌面打开WeChat app的应用分身，在我的账单中查找2020年整年的支出构成。", |
| "task_id": 900, |
| "instruction": "单击 [底部\"Me\"按钮]", |
| "screen_size": [ |
| 432, |
| 960 |
| ], |
| "scene": "交易与服务（购物）->在线银行/支付", |
| "device": "Android", |
| "complexity": "高", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512241218_600.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766652471589_963fa704_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在Alibaba.com首页搜索\"台灯\"并点击后面的搜索按钮进入，输入并筛选价格在50-300之间的商品，打开进入筛选后商品列表第一个商品详情页。\n你已经完成步骤: 1. 单击 阿里巴巴网页内的搜索栏。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"type\", \"object\": {\"type\": \"text\", \"text\": \"台灯\"}}", |
| "extra_data": { |
| "goal": "在Alibaba.com首页搜索\"台灯\"并点击后面的搜索按钮进入，输入并筛选价格在50-300之间的商品，打开进入筛选后商品列表第一个商品详情页。", |
| "task_id": 483, |
| "instruction": "输入 [台灯]", |
| "screen_size": [ |
| 1728, |
| 1080 |
| ], |
| "scene": "交易与服务（购物）->在线购物", |
| "device": "Windows", |
| "complexity": "高", |
| "platform": "Web", |
| "intent": "模糊意图", |
| "video": "screenshots/abilities/action_execution/202512181556_183.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766138973098_58525377_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1152*720)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从招商银行pc版首页开始，进入账户总览，在尾号为4697的一卡通的交易记录中，先选择近三个月的交易数据，然后再使用高级查询功能筛选出该时间范围内支出金额为200-500元的交易记录。\n你已经完成步骤: 1. 单击 左侧导航栏中的账户总览; 2. 单击 全部账户下的交易查询按钮; 3. 单击 \"最近三个月\"选项。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [979, 325, 1046, 344], \"width\": 1152, \"height\": 720}}", |
| "extra_data": { |
| "goal": "从招商银行pc版首页开始，进入账户总览，在尾号为4697的一卡通的交易记录中，先选择近三个月的交易数据，然后再使用高级查询功能筛选出该时间范围内支出金额为200-500元的交易记录。", |
| "task_id": 770, |
| "instruction": "单击 [最右侧的高级查询按钮]", |
| "screen_size": [ |
| 1152, |
| 720 |
| ], |
| "scene": "交易与服务（购物）->在线银行/支付", |
| "device": "Windows", |
| "complexity": "高", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512171832_12.17.1.c4.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766110599009_ebf91681_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从桌面打开名为\"悬秤\"的word文档，在上方操作栏中先将文档内容设置为多页显示，再将护眼模式打开，接着将纸张方向改为横向后，将分栏设置为三栏。最后打印。要求操作到打印设置页面即可，且全程操作均使用鼠标左键完成。\n你已经完成步骤: 1. 双击 名为\"悬秤\"的word文档; 2. 单击 导航栏的\"视图\"选项; 3. 单击 \"多页\"选项; 4. 单击 护眼模式选项; 5. 单击 功能栏的\"页面\"选项; 6. 单击 纸张方向选项; 7. 单击 弹窗内的\"横向\"选项。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [659, 124, 724, 198], \"width\": 1920, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "从桌面打开名为\"悬秤\"的word文档，在上方操作栏中先将文档内容设置为多页显示，再将护眼模式打开，接着将纸张方向改为横向后，将分栏设置为三栏。最后打印。要求操作到打印设置页面即可，且全程操作均使用鼠标左键完成。", |
| "task_id": 944, |
| "instruction": "单击 [分栏选项功能]", |
| "screen_size": [ |
| 1920, |
| 1080 |
| ], |
| "scene": "生产力与创作（办公场景）->文档处理", |
| "device": "Windows", |
| "complexity": "高", |
| "platform": "App (桌面主)", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202601041617_644.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1767666455331_84ed6f0f_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为886*1920)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在美团app的团购功能的\"丽人美发\"分类下，通过标签栏先筛选距离最近的店铺，再筛选出高分店铺，在筛选结果中打开第一个商品的团购详情页面并加入购物车。\n你已经完成步骤: 1. 单击 美团app; 2. 单击 团购按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [436, 695, 590, 865], \"width\": 886, \"height\": 1920}}", |
| "extra_data": { |
| "goal": "在美团app的团购功能的\"丽人美发\"分类下，通过标签栏先筛选距离最近的店铺，再筛选出高分店铺，在筛选结果中打开第一个商品的团购详情页面并加入购物车。", |
| "task_id": 150, |
| "instruction": "单击 [丽人美发按钮]", |
| "screen_size": [ |
| 886, |
| 1920 |
| ], |
| "scene": "交易与服务（购物）->团购", |
| "device": "iOS", |
| "complexity": "中", |
| "platform": "移动端app", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202511051552_150.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1763710328129_f728c73c_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开微信APP快捷操作里的\"发起群聊\"。\n你已经完成步骤: 1. 双击 微信快捷方式。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [661, 153, 707, 197], \"width\": 1920, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "打开微信APP快捷操作里的\"发起群聊\"。", |
| "task_id": 372, |
| "instruction": "单击 [微信界面搜索框右侧的加号图标]", |
| "screen_size": [ |
| 1920, |
| 1080 |
| ], |
| "scene": "通信与社交（社交）->即时通讯", |
| "device": "Windows", |
| "complexity": "低", |
| "platform": "App (桌面主)", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/15703348996_1765254695946_1fb19e7e_72.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1765424238806_41960784_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1200)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从Firefox浏览器中已登录的支付宝官网页面开始，进入应用中心，在\"娱乐网购\"中的\"淘宝电影\"频道，选择频道首页中正在热映区域的第一部评分不低于9.0的电影，在选座购票页面保持默认的区域和影城，打开它在明日的排片信息。\n你已经完成步骤: 1. 单击 应用中心; 2. 滑动 支付宝网页版区域向上滑动; 3. 单击 淘宝电影卡片; 4. 滑动 淘票票网页版区域向上滑动; 5. 单击 铁血战士对应的选座购票。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"scroll\", \"object\": {\"type\": \"text\", \"text\": \"up\", \"bbox\": [1, 171, 1918, 1117], \"width\": 1920, \"height\": 1200}}", |
| "extra_data": { |
| "goal": "从Firefox浏览器中已登录的支付宝官网页面开始，进入应用中心，在\"娱乐网购\"中的\"淘宝电影\"频道，选择频道首页中正在热映区域的第一部评分不低于9.0的电影，在选座购票页面保持默认的区域和影城，打开它在明日的排片信息。", |
| "task_id": 193, |
| "instruction": "滑动 [铁血战士购票页面向上滑动]", |
| "screen_size": [ |
| 1920, |
| 1200 |
| ], |
| "scene": "交易与服务（购物）->在线银行/支付", |
| "device": "Windows", |
| "complexity": "高", |
| "platform": "桌面端网页", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202511101451_20251110_144915.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1763975877689_1b942bf9_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为886*1920)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从Safari浏览器搜索\"山和海的图片\"失败了，显示网络异常，退出当前页面后进入系统设置页面选择使用副卡的网络数据流量，返回至网页端，手动刷新网页，等待图片加载恢复正常。\n你已经完成步骤: 1. 滑动 在屏幕底部区域向上滑动; 2. 单击 设置App图标; 3. 单击 \"Cellular\"选项; 4. 单击 \"Cellular Data\"选项; 5. 单击 \"Secondary\"选项; 6. 滑动 在屏幕底部区域向上滑动; 7. 单击 Safari浏览器图标。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"scroll\", \"object\": {\"type\": \"text\", \"text\": \"down\", \"bbox\": [3, 124, 885, 1610], \"width\": 886, \"height\": 1920}}", |
| "extra_data": { |
| "goal": "从Safari浏览器搜索\"山和海的图片\"失败了，显示网络异常，退出当前页面后进入系统设置页面选择使用副卡的网络数据流量，返回至网页端，手动刷新网页，等待图片加载恢复正常。", |
| "task_id": 681, |
| "instruction": "滑动 [在浏览器页面中间空白区域向下滑动]", |
| "screen_size": [ |
| 886, |
| 1920 |
| ], |
| "scene": "异常（端内异常）->处理加载/网络问题", |
| "device": "iOS", |
| "complexity": "低", |
| "platform": "Web", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512181343_2025-12-18 13_40_04.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766127433284_c1888601_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从已打开的淘宝网页版开始，搜索\"曲奇饼干\"，通过AI智选筛选\"巧克力\"口味，然后从分类栏中按销量排序，接着选择价格区间为最多人数选择的区间，最后筛选年货开门红标签，将列表第一个商品打开并以默认规格加购物车。\n你已经完成步骤: 1. 输入 曲奇饼干; 2. 单击 搜索按钮; 3. 单击 AI智选下的\"巧克力\"标签; 4. 单击 \"销量\"标签; 5. 悬停 \"区间\"下拉按钮; 6. 单击 弹窗中的\"14-46\"选项; 7. 单击 弹窗中的\"确定\"按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [454, 505, 632, 549], \"width\": 1728, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "从已打开的淘宝网页版开始，搜索\"曲奇饼干\"，通过AI智选筛选\"巧克力\"口味，然后从分类栏中按销量排序，接着选择价格区间为最多人数选择的区间，最后筛选年货开门红标签，将列表第一个商品打开并以默认规格加购物车。", |
| "task_id": 836, |
| "instruction": "单击 [\"年货开门8.8折起\"标签]", |
| "screen_size": [ |
| 1728, |
| 1080 |
| ], |
| "scene": "交易与服务（购物）->在线购物", |
| "device": "macOS", |
| "complexity": "高", |
| "platform": "App", |
| "intent": "模糊意图", |
| "video": "screenshots/abilities/action_execution/202601061318_536.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1767679949706_335cd6c0_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为720*1560)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在已经打开的\"美团\"APP中，进入\"看病买药\"模块，通过\"问医生\"中的\"按科室问医生\"，进入\"呼吸内科\"相关问题的对话框。执行到进入消息发送页面即可。\n暂无无历史步骤。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [587, 364, 686, 499], \"width\": 720, \"height\": 1560}}", |
| "extra_data": { |
| "goal": "在已经打开的\"美团\"APP中，进入\"看病买药\"模块，通过\"问医生\"中的\"按科室问医生\"，进入\"呼吸内科\"相关问题的对话框。执行到进入消息发送页面即可。", |
| "task_id": 646, |
| "instruction": "单击 [导航栏中的\"看病买药\"]", |
| "screen_size": [ |
| 720, |
| 1560 |
| ], |
| "scene": "交易与服务（购物）->生活服务（美团定向任务）-看病买药", |
| "device": "iOS", |
| "complexity": "低", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512231411_346.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766572075730_bdda07b6_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2340)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开美团app的跑腿频道，用\"帮我送\"服务送一份数码产品，开启录入尺寸选项并保持录入尺寸为平台默认尺寸，接着先将地址簿里第一个地址设为取件地址，再将地址簿第二个地址设为收件地址。操作到选完地址即可。\n你已经完成步骤: 1. 单击 美团APP; 2. 单击 导航栏中的\"跑腿\"; 3. 单击 \"送数码\"按钮; 4. 单击 下方\"体积; 5. 单击 最下方黄色的\"确定\"; 6. 单击 取件地址信息填写模块; 7. 单击 下方地址中从上到下第一个地址信息; 8. 单击 收件地址信息填写模块。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [35, 1718, 1047, 1890], \"width\": 1080, \"height\": 2340}}", |
| "extra_data": { |
| "goal": "打开美团app的跑腿频道，用\"帮我送\"服务送一份数码产品，开启录入尺寸选项并保持录入尺寸为平台默认尺寸，接着先将地址簿里第一个地址设为取件地址，再将地址簿第二个地址设为收件地址。操作到选完地址即可。", |
| "task_id": 881, |
| "instruction": "单击 [下方地址中从上到下第二个地址信息]", |
| "screen_size": [ |
| 1080, |
| 2340 |
| ], |
| "scene": "交易与服务（购物）->生活服务（美团定向任务）-跑腿", |
| "device": "iOS", |
| "complexity": "高", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512231357_2025-12-23 13_54_20.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1767505518655_da06e473_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2336)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从桌面打开Alibaba.comAPP并搜索\"自行车\"，通过标签筛选为全新，并打开第一件商品，询问客服\"河北省发货吗\"。\n你已经完成步骤: 1. 单击 Alibaba.comAPP; 2. 单击 上方搜索框; 3. 输入 自行车。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": [\"click\", \"click\"], \"object\": [{\"type\": \"bbox\", \"bbox\": [889, 144, 1027, 234], \"width\": 1080, \"height\": 2336}, {\"type\": \"bbox\", \"bbox\": [857, 2008, 1074, 2120], \"width\": 1080, \"height\": 2336}]}", |
| "extra_data": { |
| "goal": "从桌面打开Alibaba.comAPP并搜索\"自行车\"，通过标签筛选为全新，并打开第一件商品，询问客服\"河北省发货吗\"。", |
| "task_id": 492, |
| "instruction": "单击 [搜索按钮]", |
| "screen_size": [ |
| 1080, |
| 2336 |
| ], |
| "scene": "交易与服务（购物）->在线购物", |
| "device": "iOS", |
| "complexity": "高", |
| "platform": "APP", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512161813_192.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1765959212468_83dd33dd_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为886*1920)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在iphone自带的相机里，先将照片功能的实况关闭，再将关闭的闪光灯更改为打开。\n你已经完成步骤: 1. 单击 相机; 2. 单击 右上角的实况符号; 3. 长按 左上角闪光灯符号按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [389, 136, 466, 178], \"width\": 886, \"height\": 1920}}", |
| "extra_data": { |
| "goal": "在iphone自带的相机里，先将照片功能的实况关闭，再将关闭的闪光灯更改为打开。", |
| "task_id": 219, |
| "instruction": "单击 [打开]", |
| "screen_size": [ |
| 886, |
| 1920 |
| ], |
| "scene": "系统与设置（操作设置）->操作系统设置", |
| "device": "iOS", |
| "complexity": "中", |
| "platform": "移动端app", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202511051639_2025-11-05 16_05_42.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1763970629162_e907280f_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1200)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从Edge浏览器首页开始，点击页面中间的搜索框输入搜索\"招商银行一网通官方网站\"，点击第一个官网链接进入官网，在官网首页的\"在线服务\"内找到\"信用卡申请\"点击进入，筛选查询到同时满足：\"赠送航空意外险、单币卡、VISA、商务旅行卡\"这几个条件的信用卡。以上几个条件按顺序筛选。\n你已经完成步骤: 1. 单击 显示文字搜索网页的搜索框; 2. 输入 招商银行一网通官方网站; 3. 单击 搜索框右侧底色是蓝色的\"搜索\"按钮; 4. 单击 第一个官方网站链接。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"scroll\", \"object\": {\"type\": \"text\", \"text\": \"up\", \"bbox\": [3, 109, 1918, 1120], \"width\": 1920, \"height\": 1200}}", |
| "extra_data": { |
| "goal": "从Edge浏览器首页开始，点击页面中间的搜索框输入搜索\"招商银行一网通官方网站\"，点击第一个官网链接进入官网，在官网首页的\"在线服务\"内找到\"信用卡申请\"点击进入，筛选查询到同时满足：\"赠送航空意外险、单币卡、VISA、商务旅行卡\"这几个条件的信用卡。以上几个条件按顺序筛选。", |
| "task_id": 201, |
| "instruction": "滑动 [在当前官网页面内向上滑动]", |
| "screen_size": [ |
| 1920, |
| 1200 |
| ], |
| "scene": "交易与服务（购物）->在线银行/支付", |
| "device": "Windows", |
| "complexity": "高", |
| "platform": "桌面端网页", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202511111125_201%20(2).mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1764040920492_eb469bac_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在Safari浏览器内输入并通过enter搜索渣打银行，然后进入渣打银行官网，在官网内的借贷板块预约申请个人房地产抵押贷款，在个人资料页面填写完姓名\"王王\"即可。\n你已经完成步骤: 1. 单击 程序坞中的Safari浏览器; 2. 输入 渣打银行; 3. 按下 enter键; 4. 单击 浏览器页面的第一个网页; 5. 悬停 官网首页上方导航栏里的\"借贷\"; 6. 单击 弹出框中的预约申请个人房地产抵押贷款选项; 7. 单击 姓名输入框。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"type\", \"object\": {\"type\": \"text\", \"text\": \"王王\"}}", |
| "extra_data": { |
| "goal": "在Safari浏览器内输入并通过enter搜索渣打银行，然后进入渣打银行官网，在官网内的借贷板块预约申请个人房地产抵押贷款，在个人资料页面填写完姓名\"王王\"即可。", |
| "task_id": 773, |
| "instruction": "输入 [王王]", |
| "screen_size": [ |
| 1728, |
| 1080 |
| ], |
| "scene": "交易与服务（购物）->在线银行/支付", |
| "device": "macOS", |
| "complexity": "高", |
| "platform": "Web", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512121042_473.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766111080282_e19bebdd_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为2073*1296)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从猫眼电影网页版里已经打开的\"刺杀小说家2\"影片场次列表开始，选择放映时间最近的一场，购买最中间排、最中心的两连座电影票；如果没有，就购买第一排最中心的两连座电影票。选座顺序先左后右。不用扫码购买，直接选座购买，进入到订单确认页面即可。\n你已经完成步骤: 1. 单击 18:00场次对应的\"选座购票\"按钮; 2. 单击 \"直接选座购票\"按钮; 3. 单击 第一排左数第五个座位。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [705, 565, 750, 599], \"width\": 2073, \"height\": 1296}}", |
| "extra_data": { |
| "goal": "从猫眼电影网页版里已经打开的\"刺杀小说家2\"影片场次列表开始，选择放映时间最近的一场，购买最中间排、最中心的两连座电影票；如果没有，就购买第一排最中心的两连座电影票。选座顺序先左后右。不用扫码购买，直接选座购买，进入到订单确认页面即可。", |
| "task_id": 285, |
| "instruction": "单击 [第一排左数第六个座位]", |
| "screen_size": [ |
| 2073, |
| 1296 |
| ], |
| "scene": "异常（端内异常）->处理界面变化/元素失效", |
| "device": "macOS", |
| "complexity": "中", |
| "platform": "桌面端网页", |
| "intent": "间接意图", |
| "video": "screenshots/abilities/action_execution/202511121500_285.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/285-4.png" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2340)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从美团app的打车频道开始，进入餐饮订座，按品类筛选出自助餐，进入列表第一家寿喜锅自助的订座页面，先选择日期为明天，然后选择时间为下午六点，最后选择4人。执行到预订信息确认页面即可。\n你已经完成步骤: 1. 单击 功能入口栏的餐饮订座选项; 2. 单击 筛选栏中的\"品类\"下拉按钮; 3. 单击 弹框中的自助餐选项; 4. 单击 第一家店铺右侧的橙色\"订座\"按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [266, 629, 467, 764], \"width\": 1080, \"height\": 2340}}", |
| "extra_data": { |
| "goal": "从美团app的打车频道开始，进入餐饮订座，按品类筛选出自助餐，进入列表第一家寿喜锅自助的订座页面，先选择日期为明天，然后选择时间为下午六点，最后选择4人。执行到预订信息确认页面即可。", |
| "task_id": 863, |
| "instruction": "单击 [预订信息选择栏中的\"明天\"]", |
| "screen_size": [ |
| 1080, |
| 2340 |
| ], |
| "scene": "交易与服务（购物）->生活服务（美团定向任务）-打车", |
| "device": "iOS", |
| "complexity": "高", |
| "platform": "App", |
| "intent": "模糊意图", |
| "video": "screenshots/abilities/action_execution/202601051631_563.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1767678418968_3b8af897_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为432*960)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开 UC 浏览器 App 内 \"UC 热搜榜\" 排名第一的热搜，接着滑动阅读完第一篇文章的内容页。\n暂无无历史步骤。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [233, 484, 300, 548], \"width\": 432, \"height\": 960}}", |
| "extra_data": { |
| "goal": "打开 UC 浏览器 App 内 \"UC 热搜榜\" 排名第一的热搜，接着滑动阅读完第一篇文章的内容页。", |
| "task_id": 917, |
| "instruction": "单击 [UC浏览器]", |
| "screen_size": [ |
| 432, |
| 960 |
| ], |
| "scene": "信息获取（休闲娱乐）->新闻查询", |
| "device": "Android", |
| "complexity": "中", |
| "platform": "App端内", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512191035_617.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766481407680_4cc38ff5_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为444*960)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从手机桌面开始，进入淘宝APP，搜索\"头盔\"，在筛选条件中先选择中国免费配送，再选择10-100价格区间，将筛选结果中的第一个头盔商品加入收藏。\n你已经完成步骤: 1. 单击 淘宝app图标; 2. 单击 页面上方搜索输入框; 3. 输入 头盔; 4. 单击 输入框右侧的\"搜索\"按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [406, 105, 439, 136], \"width\": 444, \"height\": 960}}", |
| "extra_data": { |
| "goal": "从手机桌面开始，进入淘宝APP，搜索\"头盔\"，在筛选条件中先选择中国免费配送，再选择10-100价格区间，将筛选结果中的第一个头盔商品加入收藏。", |
| "task_id": 838, |
| "instruction": "单击 [右上方筛选功能按钮]", |
| "screen_size": [ |
| 444, |
| 960 |
| ], |
| "scene": "交易与服务（购物）->在线购物", |
| "device": "Android", |
| "complexity": "高", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512241431_12.24.4.30-b.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766646578237_9e78ae52_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开桌面的\"Microsoft edge\"浏览器，选择标签页上的\"抖音\"标签页进入抖音网页版，搜索\"肉桂金丝熊长什么样\"，打开第一条点赞量超10万的视频。\n你已经完成步骤: 1. 双击 桌面\"Microsoft Edge\"应用; 2. 单击 网页左上方的抖音标签页; 3. 单击 抖音页面内的搜索框。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"type\", \"object\": {\"type\": \"text\", \"text\": \"肉桂金丝熊长什么样\"}}", |
| "extra_data": { |
| "goal": "打开桌面的\"Microsoft edge\"浏览器，选择标签页上的\"抖音\"标签页进入抖音网页版，搜索\"肉桂金丝熊长什么样\"，打开第一条点赞量超10万的视频。", |
| "task_id": 428, |
| "instruction": "输入 [肉桂金丝熊长什么样]", |
| "screen_size": [ |
| 1920, |
| 1080 |
| ], |
| "scene": "信息获取（休闲娱乐）->网站搜索导航", |
| "device": "Windows", |
| "complexity": "中", |
| "platform": "Browser Use,", |
| "intent": "模糊意图", |
| "video": "screenshots/abilities/action_execution/202512161751_128.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1765939451801_4de71575_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1620*2160)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在微博app内发布一条微博动态，内容是系统相册内的唯一一张风景照，无需预览图片也无需编辑图片和文本，直接发布即可。\n你已经完成步骤: 1. 单击 右上角加号按钮; 2. 单击 弹框中\"相册\"按钮; 3. 单击 相册内中间风景照右上方圆圈选中按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [1378, 2024, 1589, 2107], \"width\": 1620, \"height\": 2160}}", |
| "extra_data": { |
| "goal": "在微博app内发布一条微博动态，内容是系统相册内的唯一一张风景照，无需预览图片也无需编辑图片和文本，直接发布即可。", |
| "task_id": 818, |
| "instruction": "单击 [\"下一步(1)\"按钮]", |
| "screen_size": [ |
| 1620, |
| 2160 |
| ], |
| "scene": "通信与社交（社交）->社交媒体互动", |
| "device": "iPadOS", |
| "complexity": "中", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512191342_518.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766386120415_5637c26a_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为3108*2160)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开桌面上的\"小红书\"App，进入\"我\"页面中\"收藏\"的第一篇笔记，通过分享功能按钮\"生成分享图\",分享至\"QQ好友\"中\"最近转发\"的好友\"one\"。\n你已经完成步骤: 1. 单击 桌面上的小红书APP。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [2485, 1978, 3100, 2075], \"width\": 3108, \"height\": 2160}}", |
| "extra_data": { |
| "goal": "打开桌面上的\"小红书\"App，进入\"我\"页面中\"收藏\"的第一篇笔记，通过分享功能按钮\"生成分享图\",分享至\"QQ好友\"中\"最近转发\"的好友\"one\"。", |
| "task_id": 987, |
| "instruction": "单击 [右下角的\"我\"按钮]", |
| "screen_size": [ |
| 3108, |
| 2160 |
| ], |
| "scene": "跨应用协作（多端产品使用）->任务接力", |
| "device": "iPadOS", |
| "complexity": "高", |
| "platform": "App (多应用交互)", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512291718_687.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1767521353337_c761204a_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>双击桌面上的快捷方式打开Edge浏览器，在最上方网址栏输入\"https://www.taobao.com\"并使用enter快捷键进入淘宝网页版，打开收货地址列表。\n你已经完成步骤: 1. 双击 桌面上的Microsoft Edge浏览器; 2. 输入 https:; 3. 按下 enter键。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [1473, 465, 1542, 490], \"width\": 1728, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "双击桌面上的快捷方式打开Edge浏览器，在最上方网址栏输入\"https://www.taobao.com\"并使用enter快捷键进入淘宝网页版，打开收货地址列表。", |
| "task_id": 106, |
| "instruction": "单击 [个人信息板块中的收货地址选项]", |
| "screen_size": [ |
| 1728, |
| 1080 |
| ], |
| "scene": "交易与服务（购物）->在线购物", |
| "device": "Windows", |
| "complexity": "中", |
| "platform": "桌面端网页", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202511251605_106.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1764213520867_d271d8d1_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2336)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从快手APP首页开始，搜索\"行李箱\"商品，按销量排序，然后进入并推荐第一个商品。\n你已经完成步骤: 1. 单击 右上角的放大镜图标; 2. 输入 行李箱; 3. 单击 搜索按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [359, 274, 519, 361], \"width\": 1080, \"height\": 2336}}", |
| "extra_data": { |
| "goal": "从快手APP首页开始，搜索\"行李箱\"商品，按销量排序，然后进入并推荐第一个商品。", |
| "task_id": 406, |
| "instruction": "单击 [分类栏的\"Goods\" 标签]", |
| "screen_size": [ |
| 1080, |
| 2336 |
| ], |
| "scene": "通信与社交（社交）->社交媒体互动", |
| "device": "iOS", |
| "complexity": "中", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512101713_106.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1765430851174_157ff908_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>通过\"WPS Office\"单击打开\"日销售额(1).xlsx\"表格。选中E12单元格，使用上方操作栏中\"AutoSum（∑）\"对表中\"销售额\"列（E2:E11）数据进行求和。\n你已经完成步骤: 1. 双击 桌面\"WPS Office\"快捷方式; 2. 单击 \"日销售额(1).xlsx\"文字信息; 3. 单击 E12单元格; 4. 单击 上方操作栏中\"AutoSum\"按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": [\"press\", \"click\"], \"object\": [{\"type\": \"text\", \"text\": \"enter\"}, {\"type\": \"bbox\", \"bbox\": [1443, 108, 1523, 140], \"width\": 1920, \"height\": 1080}]}", |
| "extra_data": { |
| "goal": "通过\"WPS Office\"单击打开\"日销售额(1).xlsx\"表格。选中E12单元格，使用上方操作栏中\"AutoSum（∑）\"对表中\"销售额\"列（E2:E11）数据进行求和。", |
| "task_id": 946, |
| "instruction": "按下 [回车键]", |
| "screen_size": [ |
| 1920, |
| 1080 |
| ], |
| "scene": "生产力与创作（办公场景）->表格处理", |
| "device": "Windows", |
| "complexity": "中", |
| "platform": "App (桌面主)", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512291656_646.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1767152233020_a77297ff_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*1554)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开美团民宿App，进入短租页面，在位置信息对应板块获取当前定位，然后将户型选择为2居室，其他设置保持不变并进行搜索，将搜索结果筛选为4.8分以上，进入第一个商品。\n你已经完成步骤: 1. 单击 美团民宿APP; 2. 单击 短租选项; 3. 单击 \"小区; 4. 单击 户型不限选项; 5. 单击 2居室选项; 6. 单击 确认按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [175, 688, 901, 802], \"width\": 1080, \"height\": 1554}}", |
| "extra_data": { |
| "goal": "打开美团民宿App，进入短租页面，在位置信息对应板块获取当前定位，然后将户型选择为2居室，其他设置保持不变并进行搜索，将搜索结果筛选为4.8分以上，进入第一个商品。", |
| "task_id": 854, |
| "instruction": "单击 [搜索按钮]", |
| "screen_size": [ |
| 1080, |
| 1554 |
| ], |
| "scene": "交易与服务（购物）->生活服务（美团定向任务）-酒店民宿", |
| "device": "iPadOS", |
| "complexity": "高", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202601061102_554.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1768295314919_10e6673a_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为432*960)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从携程官网首页开始。进入火车票，查询12月17日成都到南京的高铁动车票，选择17：59出发的车票，要求选择二等座，如果二等座要候补的话就选择动卧最便宜的。到订单填写即可。\n你已经完成步骤: 1. 单击 分类栏中\"火车票\"标签。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [301, 534, 407, 560], \"width\": 432, \"height\": 960}}", |
| "extra_data": { |
| "goal": "从携程官网首页开始。进入火车票，查询12月17日成都到南京的高铁动车票，选择17：59出发的车票，要求选择二等座，如果二等座要候补的话就选择动卧最便宜的。到订单填写即可。", |
| "task_id": 689, |
| "instruction": "单击 [勾选\"高铁动车\"按钮]", |
| "screen_size": [ |
| 432, |
| 960 |
| ], |
| "scene": "异常（端内异常）->处理界面变化/元素失效", |
| "device": "Android", |
| "complexity": "中", |
| "platform": "Browser Use", |
| "intent": "模糊意图", |
| "video": "screenshots/abilities/action_execution/202512171316_389.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766128048772_29b80f82_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为884*1920)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开支付宝账单，不进行筛选操作，直接在页面找到昨天最大一笔消费支出，并点击进入该账单详情页面。\n你已经完成步骤: 1. 单击 支付宝APP; 2. 单击 右下角我的; 3. 单击 账单。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [20, 919, 861, 1171], \"width\": 884, \"height\": 1920}}", |
| "extra_data": { |
| "goal": "打开支付宝账单，不进行筛选操作，直接在页面找到昨天最大一笔消费支出，并点击进入该账单详情页面。", |
| "task_id": 204, |
| "instruction": "单击 [标记为\"昨天\"的支出信息里的金额最大的一笔支出]", |
| "screen_size": [ |
| 884, |
| 1920 |
| ], |
| "scene": "交易与服务（购物）->在线银行/支付", |
| "device": "iOS", |
| "complexity": "中", |
| "platform": "移动端app", |
| "intent": "间接意图", |
| "video": "screenshots/abilities/action_execution/202511101230_zfb.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1763976484091_d3b07902_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为720*1562)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在已打开的\"Safari浏览器\"App中，输入\"医保跨省共享\"，然后筛选出所有资讯内容 ，打开第一条资讯。\n你已经完成步骤: 1. 单击 搜索框; 2. 输入 医保跨省共享; 3. 单击 键盘右下角的前往按钮; 4. 单击 右上角的筛选按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [370, 367, 517, 429], \"width\": 720, \"height\": 1562}}", |
| "extra_data": { |
| "goal": "在已打开的\"Safari浏览器\"App中，输入\"医保跨省共享\"，然后筛选出所有资讯内容 ，打开第一条资讯。", |
| "task_id": 421, |
| "instruction": "单击 [弹出框中的资讯选项]", |
| "screen_size": [ |
| 720, |
| 1562 |
| ], |
| "scene": "信息获取（休闲娱乐）->新闻查询", |
| "device": "iOS", |
| "complexity": "中", |
| "platform": "Browser Use,", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512161744_121.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1765938824762_3f467526_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为444*960)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>进入美团app的\"酒店民宿\"频道，在当前位置搜索\"全季酒店\"，筛选出价格在\"300~400元\"之间、且\"含早餐\"的全季酒店，并进入排列在最上方的酒店详情页。\n你已经完成步骤: 1. 单击 美团app; 2. 单击 分类栏中\"酒店民宿\"按钮; 3. 单击 当前位置按钮; 4. 单击 \"找酒店\"按钮上方的搜索栏; 5. 输入 全季酒店; 6. 单击 悬浮键盘右下角\"搜索\"按钮; 7. 单击 \"价格•星级\"按钮; 8. 单击 弹出下拉框中\"￥300-400\"的按钮; 9. 单击 右下方\"查看\"按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [368, 117, 434, 146], \"width\": 444, \"height\": 960}}", |
| "extra_data": { |
| "goal": "进入美团app的\"酒店民宿\"频道，在当前位置搜索\"全季酒店\"，筛选出价格在\"300~400元\"之间、且\"含早餐\"的全季酒店，并进入排列在最上方的酒店详情页。", |
| "task_id": 139, |
| "instruction": "单击 [\"筛选\"按钮]", |
| "screen_size": [ |
| 444, |
| 960 |
| ], |
| "scene": "交易与服务（购物）->酒店民宿", |
| "device": "Android", |
| "complexity": "高", |
| "platform": "移动端app", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202511041550_1.139.2.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1764055312648_d0ea252c_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为432*960)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从手机桌面进入Dianping APP，进入Videos频道，显示网络异常，然后在系统设置app中打开移动流量，再次打开Dianping APP，页面自动刷新恢复正常。\n你已经完成步骤: 1. 单击 桌面\"Dianping\"app; 2. 单击 底部\"Videos\"按钮; 3. 单击 屏幕底部一键返回桌面按钮; 4. 单击 \"Settings\"app。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [26, 533, 409, 593], \"width\": 432, \"height\": 960}}", |
| "extra_data": { |
| "goal": "从手机桌面进入Dianping APP，进入Videos频道，显示网络异常，然后在系统设置app中打开移动流量，再次打开Dianping APP，页面自动刷新恢复正常。", |
| "task_id": 680, |
| "instruction": "单击 [\"Dual SIMs & mobile network\"按钮]", |
| "screen_size": [ |
| 432, |
| 960 |
| ], |
| "scene": "异常（端内异常）->处理加载/网络问题", |
| "device": "Android", |
| "complexity": "低", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512181447_12-18--380.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766382262364_ff89cdfe_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从Edge浏览器内已打开的淘宝网页版首页开始，进入购物车，搜索筛选出所有的手机壳产品并全选一键删除，要求除文本输入外，其余操作全部用鼠标进行。\n你已经完成步骤: 1. 单击 页面最上方的购物车178按钮; 2. 单击 搜索购物车内商品搜索输入框; 3. 输入 手机壳; 4. 单击 搜索放大镜图标。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [78, 305, 174, 335], \"width\": 1728, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "从Edge浏览器内已打开的淘宝网页版首页开始，进入购物车，搜索筛选出所有的手机壳产品并全选一键删除，要求除文本输入外，其余操作全部用鼠标进行。", |
| "task_id": 112, |
| "instruction": "单击 [ 全选按钮]", |
| "screen_size": [ |
| 1728, |
| 1080 |
| ], |
| "scene": "交易与服务（购物）->在线购物", |
| "device": "macOS", |
| "complexity": "中", |
| "platform": "桌面端网页", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202511071644_112.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/112-5.png" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为884*1920)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从美团app首页开始，帮我在美团app的酒店民宿模块，订个今天入住明天离店的酒店，再频道首页的下面一个地址栏搜索\"杭州东站\"，进入酒店列表后按照\"位置距离-价格星级-筛选\"的顺序，帮我点击筛选出距离杭州东站不超过2公里，预算300元-400元之间，有健身房，评分在4.5分以上的酒店。然后再选择满足条件的酒店中欢迎度排序第一的入住，操作到进入酒店详情页面即可。筛选\"健身房\"和\"4.5分以上\"时通过滑动筛选框内右侧页面来进行选择。\n你已经完成步骤: 1. 单击 酒店; 2. 单击 日期下方位置搜索栏; 3. 输入 杭州东站; 4. 单击 键盘搜索键; 5. 单击 位置距离; 6. 单击 2公里内; 7. 单击 查看; 8. 单击 价格星级; 9. 单击 ¥300-400; 10. 单击 查看; 11. 单击 筛选。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"scroll\", \"object\": {\"type\": \"text\", \"text\": \"up\", \"bbox\": [194, 339, 872, 1455], \"width\": 884, \"height\": 1920}}", |
| "extra_data": { |
| "goal": "从美团app首页开始，帮我在美团app的酒店民宿模块，订个今天入住明天离店的酒店，再频道首页的下面一个地址栏搜索\"杭州东站\"，进入酒店列表后按照\"位置距离-价格星级-筛选\"的顺序，帮我点击筛选出距离杭州东站不超过2公里，预算300元-400元之间，有健身房，评分在4.5分以上的酒店。然后再选择满足条件的酒店中欢迎度排序第一的入住，操作到进入酒店详情页面即可。筛选\"健身房\"和\"4.5分以上\"时通过滑动筛选框内右侧页面来进行选择。", |
| "task_id": 142, |
| "instruction": "滑动 [在下拉菜单中的右侧分类栏向上滑动]", |
| "screen_size": [ |
| 884, |
| 1920 |
| ], |
| "scene": "交易与服务（购物）->酒店民宿", |
| "device": "iOS", |
| "complexity": "高", |
| "platform": "移动端app", |
| "intent": "间接意图", |
| "video": "screenshots/abilities/action_execution/202511111304_hangzhou11.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1764037510214_a9b772fa_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为886*1920)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从微博app首页开始，进入微博热搜第一条带有\"沸\"的话题，打开查看该话题内出现的第一篇帖子后给该贴点赞。要有全程均使用点击完成。\n你已经完成步骤: 1. 单击 底部\"发现\"按钮; 2. 单击 微博热搜下\"春晚 沸\"信息内容。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [27, 467, 859, 1168], \"width\": 886, \"height\": 1920}}", |
| "extra_data": { |
| "goal": "从微博app首页开始，进入微博热搜第一条带有\"沸\"的话题，打开查看该话题内出现的第一篇帖子后给该贴点赞。要有全程均使用点击完成。", |
| "task_id": 918, |
| "instruction": "单击 [第一条微博信息内容区域]", |
| "screen_size": [ |
| 886, |
| 1920 |
| ], |
| "scene": "信息获取（休闲娱乐）->新闻查询", |
| "device": "iOS", |
| "complexity": "中", |
| "platform": "App端内", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512181718_2025-12-18 17_16_33.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766481920587_b7df7ad4_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2336)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从抖音搜索\"北京五环房价\"。\n暂无无历史步骤。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [329, 1266, 497, 1433], \"width\": 1080, \"height\": 2336}}", |
| "extra_data": { |
| "goal": "从抖音搜索\"北京五环房价\"。", |
| "task_id": 324, |
| "instruction": "单击 [抖音app]", |
| "screen_size": [ |
| 1080, |
| 2336 |
| ], |
| "scene": "信息获取（休闲娱乐）->新闻查询", |
| "device": "iOS", |
| "complexity": "中", |
| "platform": "Browser Use, App端内", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/13927328549_1764062919322_cdd66c78_24+北京五环房价.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1764567024892_b2244772_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为3840*2160)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开桌面上的\"库存清单\"，选中\"当前库存\"一格并开启筛选，通过筛选器筛选出\"当前库存\"所在列数值低于10的行（先选条件再选数值），选中筛选后的行并填充颜色为标准色红色，另存为至桌面上的\"统计\"文件夹。\n你已经完成步骤: 1. 双击 右侧\"库存清单\"表格; 2. 单击 弹窗内\"当前库存\"; 3. 单击 右上方\"排序和筛选\"按钮; 4. 单击 下拉框内\"筛选\"; 5. 单击 \"当前库存\"下拉框; 6. 单击 \"选择一个\"下拉框; 7. 单击 \"小于\"; 8. 输入 10; 9. 拖拽 选中Excel表格左侧行号为\"7-11\"的区域。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [1732, 561, 1751, 598], \"width\": 3840, \"height\": 2160}}", |
| "extra_data": { |
| "goal": "打开桌面上的\"库存清单\"，选中\"当前库存\"一格并开启筛选，通过筛选器筛选出\"当前库存\"所在列数值低于10的行（先选条件再选数值），选中筛选后的行并填充颜色为标准色红色，另存为至桌面上的\"统计\"文件夹。", |
| "task_id": 452, |
| "instruction": "单击 [左上方\"填充\"下拉框]", |
| "screen_size": [ |
| 3840, |
| 2160 |
| ], |
| "scene": "生产力与创作（办公场景）->文档处理", |
| "device": "macOS", |
| "complexity": "高", |
| "platform": "App (桌面主)", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512171349_152.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766051026589_f0b8b23a_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开\"Microsoft edge\"浏览器，在首页从上往下第二个搜索框输入搜索\"抖音网页版\"并进入其官网，关闭抖音网页版弹出的登录对话框，进入\"推荐\"模块。\n你已经完成步骤: 1. 双击 Microsoft edge浏览器; 2. 单击 从上往下第二个搜索框; 3. 输入 抖音网页版。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": [\"press\", \"click\", \"click\"], \"object\": [{\"type\": \"text\", \"text\": \"enter\"}, {\"type\": \"bbox\", \"bbox\": [1282, 199, 1356, 247], \"width\": 1920, \"height\": 1080}, {\"type\": \"bbox\", \"bbox\": [551, 244, 1355, 283], \"width\": 1920, \"height\": 1080}]}", |
| "extra_data": { |
| "goal": "打开\"Microsoft edge\"浏览器，在首页从上往下第二个搜索框输入搜索\"抖音网页版\"并进入其官网，关闭抖音网页版弹出的登录对话框，进入\"推荐\"模块。", |
| "task_id": 989, |
| "instruction": "按下 [enter键]", |
| "screen_size": [ |
| 1920, |
| 1080 |
| ], |
| "scene": "异常（端内异常）->处理弹窗/对话框", |
| "device": "Windows", |
| "complexity": "中", |
| "platform": "Web", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512291718_689.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1767149011671_be473e38_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2336)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从小红书app页面开始，将当前浏览的小红书笔记分享给最近转发的第一个微信好友并在微信中发送消息\"这个不错哎\"。\n暂无无历史步骤。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [974, 158, 1037, 219], \"width\": 1080, \"height\": 2336}}", |
| "extra_data": { |
| "goal": "从小红书app页面开始，将当前浏览的小红书笔记分享给最近转发的第一个微信好友并在微信中发送消息\"这个不错哎\"。", |
| "task_id": 101, |
| "instruction": "单击 [右上角\"分享符号\"]", |
| "screen_size": [ |
| 1080, |
| 2336 |
| ], |
| "scene": "通信与社交->社交媒体互动", |
| "device": "iOS", |
| "complexity": "中", |
| "platform": "移动端app", |
| "intent": "间接意图", |
| "video": "screenshots/abilities/action_execution/202511051641_101.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/101-1.png" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在已打开的微信app页面中，将最近活跃的一个群设置为免打扰。\n暂无无历史步骤。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"rightClick\", \"object\": {\"type\": \"bbox\", \"bbox\": [468, 399, 753, 475], \"width\": 1728, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "在已打开的微信app页面中，将最近活跃的一个群设置为免打扰。", |
| "task_id": 74, |
| "instruction": "右击 [有两条未读消息的群聊]", |
| "screen_size": [ |
| 1728, |
| 1080 |
| ], |
| "scene": "通信与社交->即时通讯", |
| "device": "macOS", |
| "complexity": "低", |
| "platform": "桌面端app", |
| "intent": "间接意图", |
| "video": "screenshots/abilities/action_execution/202511061132_74.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/74-1.png" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2340)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在已打开的微博App中，搜索\"就爱用颜文字喵喵喵\"，转发搜索后出现的第一条微博，配文\"码住\"并发送。\n你已经完成步骤: 1. 单击 底部发现按钮; 2. 单击 顶部搜索框。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"type\", \"object\": {\"type\": \"text\", \"text\": \"就爱用颜文字喵喵喵\"}}", |
| "extra_data": { |
| "goal": "在已打开的微博App中，搜索\"就爱用颜文字喵喵喵\"，转发搜索后出现的第一条微博，配文\"码住\"并发送。", |
| "task_id": 601, |
| "instruction": "输入 [就爱用颜文字喵喵喵]", |
| "screen_size": [ |
| 1080, |
| 2340 |
| ], |
| "scene": "通信与社交\n（社交）->社交媒体互动", |
| "device": "iOS", |
| "complexity": "中", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202601041649_301.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1767677858068_82099305_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为444*960)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在大众点评的\"美食\"频道内，筛选找到当前距离最近的\"黑珍珠\"餐厅（要求先筛选距离再筛选餐厅品质），复制该餐厅名字然后粘贴到滴滴出行app并打车前往该餐厅，在滴滴出行app内进入到车型选择页面即可。全程不要使用输入法键盘上任何按钮。\n你已经完成步骤: 1. 单击 大众点评app; 2. 单击 最上方分类栏的美食按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [229, 397, 320, 423], \"width\": 444, \"height\": 960}}", |
| "extra_data": { |
| "goal": "在大众点评的\"美食\"频道内，筛选找到当前距离最近的\"黑珍珠\"餐厅（要求先筛选距离再筛选餐厅品质），复制该餐厅名字然后粘贴到滴滴出行app并打车前往该餐厅，在滴滴出行app内进入到车型选择页面即可。全程不要使用输入法键盘上任何按钮。", |
| "task_id": 243, |
| "instruction": "单击 [智能排序]", |
| "screen_size": [ |
| 444, |
| 960 |
| ], |
| "scene": "跨应用协作（多端产品使用）->任务接力", |
| "device": "Android", |
| "complexity": "高", |
| "platform": "跨应用", |
| "intent": "间接意图", |
| "video": "screenshots/abilities/action_execution/202511041723_4.243.2.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1763963218847_7e0cabdf_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为2560*1440)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从桌面打开抖音从左侧边栏打开朋友频道。并给朋友的第一条视频评论：早上好。\n你已经完成步骤: 1. 双击 抖音App; 2. 单击 左侧功能栏\"朋友\"选项; 3. 单击 页面右侧评论按钮; 4. 单击 右下方评论输入框; 5. 输入 早上好。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [2363, 1278, 2399, 1312], \"width\": 2560, \"height\": 1440}}", |
| "extra_data": { |
| "goal": "从桌面打开抖音从左侧边栏打开朋友频道。并给朋友的第一条视频评论：早上好。", |
| "task_id": 810, |
| "instruction": "单击 [右下方向上箭头图标按钮]", |
| "screen_size": [ |
| 2560, |
| 1440 |
| ], |
| "scene": "通信与社交（社交）->社交媒体互动", |
| "device": "Windows", |
| "complexity": "中", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512171507_20251217_150418.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766389188001_6d78ca9a_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为720*1560)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>进入\"美团\"APP，打开\"跑腿\"，选择\"汽车送\"配送大件物品。要求仅执行到选择完\"汽车送\"的页面。\n你已经完成步骤: 1. 单击 美团应用图标。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [305, 509, 415, 619], \"width\": 720, \"height\": 1560}}", |
| "extra_data": { |
| "goal": "进入\"美团\"APP，打开\"跑腿\"，选择\"汽车送\"配送大件物品。要求仅执行到选择完\"汽车送\"的页面。", |
| "task_id": 629, |
| "instruction": "单击 [\"跑腿\"功能按钮]", |
| "screen_size": [ |
| 720, |
| 1560 |
| ], |
| "scene": "交易与服务（购物）->生活服务（美团定向任务）-跑腿", |
| "device": "iOS", |
| "complexity": "低", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512231411_329.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766564804384_3c3f61be_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2400)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开抖音app搜索\"萌宠\"并筛选直播类内容。\n你已经完成步骤: 1. 单击 抖音APP; 2. 单击 放大镜图标; 3. 输入 萌宠。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": [\"click\", \"click\", \"click\"], \"object\": [{\"type\": \"bbox\", \"bbox\": [911, 109, 1061, 214], \"width\": 1080, \"height\": 2400}, {\"type\": \"bbox\", \"bbox\": [30, 355, 1039, 496], \"width\": 1080, \"height\": 2400}, {\"type\": \"bbox\", \"bbox\": [914, 2100, 1068, 2236], \"width\": 1080, \"height\": 2400}]}", |
| "extra_data": { |
| "goal": "打开抖音app搜索\"萌宠\"并筛选直播类内容。", |
| "task_id": 6, |
| "instruction": "单击 [搜索按钮]", |
| "screen_size": [ |
| 1080, |
| 2400 |
| ], |
| "scene": "信息获取（休闲娱乐）->媒体娱乐", |
| "device": "Android", |
| "complexity": "中", |
| "platform": "移动端app", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202511101126_6.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/6-4.png" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>我已在edge浏览器中打开小红书官网并搜索了\"法式客厅装修\"，接下来将当前页面第一个帖子的封面图像通过鼠标右键复制链接，最小化返回桌面后，打开\"装修参考.txt\"，通过鼠标将刚复制的链接粘贴到其中。\n暂无无历史步骤。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"rightClick\", \"object\": {\"type\": \"bbox\", \"bbox\": [370, 395, 683, 805], \"width\": 1728, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "我已在edge浏览器中打开小红书官网并搜索了\"法式客厅装修\"，接下来将当前页面第一个帖子的封面图像通过鼠标右键复制链接，最小化返回桌面后，打开\"装修参考.txt\"，通过鼠标将刚复制的链接粘贴到其中。", |
| "task_id": 785, |
| "instruction": "右击 [搜索结果页面第一条笔记]", |
| "screen_size": [ |
| 1728, |
| 1080 |
| ], |
| "scene": "跨应用协作（多端产品使用->数据共享", |
| "device": "Windows", |
| "complexity": "中", |
| "platform": "App (多应用交互)", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512111449_485-.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1765447784579_88153fd1_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开程序坞中的Safari浏览器并新建一个标签页，然后搜索\"当当网\"并按下enter键进入其官网，打开精选榜单，进入\"飙升榜\"，打开第一个寓言类书籍商品的详情页。\n你已经完成步骤: 1. 单击 Safari浏览器; 2. 单击 右上角\"新建标签页\"按钮; 3. 输入 当当网; 4. 按下 \"enter\"键。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [212, 312, 874, 339], \"width\": 1728, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "打开程序坞中的Safari浏览器并新建一个标签页，然后搜索\"当当网\"并按下enter键进入其官网，打开精选榜单，进入\"飙升榜\"，打开第一个寓言类书籍商品的详情页。", |
| "task_id": 929, |
| "instruction": "单击 [搜索结果页第一个带有官方的网址]", |
| "screen_size": [ |
| 1728, |
| 1080 |
| ], |
| "scene": "信息获取（休闲娱乐）->网站搜索导航", |
| "device": "macOS", |
| "complexity": "高", |
| "platform": "Browser Use", |
| "intent": "模糊意图", |
| "video": "screenshots/abilities/action_execution/202601041136_629.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1767666692449_8d4a533c_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从已经打开的中国铁路官网页面开始，预定明天从重庆到北京尽可能早的一班高铁或动车，按照官网页面车票卡片显示的选项顺序依次从上到下进行选择，要求所选列车必须要有一等座余票，不能是候补票，操作到勾选乘车人步骤即可。\n你已经完成步骤: 1. 单击 出发地右侧的选项框; 2. 单击 重庆选项; 3. 单击 北京选项; 4. 单击 出发日期右侧的选项框; 5. 单击 十一月日历中的1号; 6. 单击 高铁; 7. 单击 查询按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [1703, 579, 1814, 621], \"width\": 1920, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "从已经打开的中国铁路官网页面开始，预定明天从重庆到北京尽可能早的一班高铁或动车，按照官网页面车票卡片显示的选项顺序依次从上到下进行选择，要求所选列车必须要有一等座余票，不能是候补票，操作到勾选乘车人步骤即可。", |
| "task_id": 281, |
| "instruction": "单击 [G352号列车对应的预定按钮]", |
| "screen_size": [ |
| 1920, |
| 1080 |
| ], |
| "scene": "异常（端内异常）->处理界面变化/元素失效", |
| "device": "Windows", |
| "complexity": "中", |
| "platform": "桌面端网页", |
| "intent": "间接意图", |
| "video": "screenshots/abilities/action_execution/202510311612_281.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/281-8.png" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为720*960)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从桌面打开淘宝APP，在搜索框输入\"泡泡玛特盲盒\"，打开\"上新\"排序里的第一个产品。\n你已经完成步骤: 1. 单击 桌面上的淘宝app; 2. 单击 淘宝首页顶部搜索框。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"type\", \"object\": {\"type\": \"text\", \"text\": \"“泡泡玛特盲盒”\"}}", |
| "extra_data": { |
| "goal": "从桌面打开淘宝APP，在搜索框输入\"泡泡玛特盲盒\"，打开\"上新\"排序里的第一个产品。", |
| "task_id": 476, |
| "instruction": "输入 [\"泡泡玛特盲盒\"]", |
| "screen_size": [ |
| 720, |
| 960 |
| ], |
| "scene": "交易与服务（购物）->在线购物", |
| "device": "iPadOS", |
| "complexity": "中", |
| "platform": "APP", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512161807_176.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1765956000687_7592329a_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>通过桌面上的快捷方式打开Firefox浏览器，在最上方网址栏输入\"https://www.jd.com/\"并使用enter快捷键进入京东官网后，搜索面包，通过筛选优先找到\"达利园\"品牌，接着筛选该品牌销量最高的面包商品，进入该品牌销量最高的面包商品详情页后按照默认规格将其加入购物车。\n你已经完成步骤: 1. 双击 桌面上的Firefox浏览器; 2. 输入 https:; 3. 按下 enter键; 4. 单击 京东页面内的搜索框; 5. 输入 面包。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": [\"click\", \"press\"], \"object\": [{\"type\": \"bbox\", \"bbox\": [1002, 248, 1112, 299], \"width\": 1728, \"height\": 1080}, {\"type\": \"text\", \"text\": \"enter\"}]}", |
| "extra_data": { |
| "goal": "通过桌面上的快捷方式打开Firefox浏览器，在最上方网址栏输入\"https://www.jd.com/\"并使用enter快捷键进入京东官网后，搜索面包，通过筛选优先找到\"达利园\"品牌，接着筛选该品牌销量最高的面包商品，进入该品牌销量最高的面包商品详情页后按照默认规格将其加入购物车。", |
| "task_id": 126, |
| "instruction": "单击 [搜索按钮]", |
| "screen_size": [ |
| 1728, |
| 1080 |
| ], |
| "scene": "交易与服务（购物）->在线购物", |
| "device": "Windows", |
| "complexity": "高", |
| "platform": "桌面端网页", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202511251613_126.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1764221691161_ca4a8d72_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为3840*2160)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开桌面的\"Safari浏览器\"，进入上方的\"历史记录\"并打开第一条最近访问过的网页。\n你已经完成步骤: 1. 单击 程序坞中的\"Safari浏览器\"; 2. 单击 顶部\"历史记录\"。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [541, 446, 1599, 486], \"width\": 3840, \"height\": 2160}}", |
| "extra_data": { |
| "goal": "打开桌面的\"Safari浏览器\"，进入上方的\"历史记录\"并打开第一条最近访问过的网页。", |
| "task_id": 424, |
| "instruction": "单击 [弹窗第一条最近访问的网页]", |
| "screen_size": [ |
| 3840, |
| 2160 |
| ], |
| "scene": "信息获取（休闲娱乐）->网站搜索导航", |
| "device": "macOS", |
| "complexity": "低", |
| "platform": "Browser Use,", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512171349_124.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766046721407_3f9f0416_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1566*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从已打开139邮箱网页开始，按主题查找\"2025工作总结\"的相关邮件，并打开搜索结果中今天收到的邮件内的文档。\n你已经完成步骤: 1. 单击 139邮箱页面中的搜索栏; 2. 输入 2025工作总结; 3. 单击 按主题查找按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [437, 451, 1549, 506], \"width\": 1566, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "从已打开139邮箱网页开始，按主题查找\"2025工作总结\"的相关邮件，并打开搜索结果中今天收到的邮件内的文档。", |
| "task_id": 370, |
| "instruction": "单击 [搜索结果为\"2025工作总结\"的邮件]", |
| "screen_size": [ |
| 1566, |
| 1080 |
| ], |
| "scene": "生产力与创作（办公场景）->邮件管理", |
| "device": "iPadOS", |
| "complexity": "中", |
| "platform": "Web", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/15703348996_1765263584070_54c0d6ea_70.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1765424108792_b3971d99_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1620*2160)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>进入网易新闻，在体育板块下查看\"CBA\"的赛程。\n暂无无历史步骤。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [1206, 743, 1349, 885], \"width\": 1620, \"height\": 2160}}", |
| "extra_data": { |
| "goal": "进入网易新闻，在体育板块下查看\"CBA\"的赛程。", |
| "task_id": 919, |
| "instruction": "单击 [桌面网易新闻app]", |
| "screen_size": [ |
| 1620, |
| 2160 |
| ], |
| "scene": "信息获取（休闲娱乐）->新闻查询", |
| "device": "iPadOS", |
| "complexity": "中", |
| "platform": "App端内", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512231447_619.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766650848699_6e8e2b20_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为886*1920)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开Alipay app的账单页面，筛选出所有的支出账单，然后打开查看最近一笔的支出账单详情。\n暂无无历史步骤。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [470, 390, 619, 541], \"width\": 886, \"height\": 1920}}", |
| "extra_data": { |
| "goal": "打开Alipay app的账单页面，筛选出所有的支出账单，然后打开查看最近一笔的支出账单详情。", |
| "task_id": 893, |
| "instruction": "单击 [Alipay app图标]", |
| "screen_size": [ |
| 886, |
| 1920 |
| ], |
| "scene": "交易与服务（购物）->在线银行/支付", |
| "device": "iOS", |
| "complexity": "中", |
| "platform": "App", |
| "intent": "模糊意图", |
| "video": "screenshots/abilities/action_execution/202512181534_2025-12-18 15_33_34.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766647310346_d446cea3_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在已打开的微博网页版中，进入到\"搞笑\"频道，找到并复制第一条带图片的帖子中的第一张图片，通过组合快捷键粘贴并发送给微信中的\"L.L.L主理人\"。要求复制图片后直接从程序坞中打开微信。\n你已经完成步骤: 1. 单击 上方导航栏\"搞笑\"按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"scroll\", \"object\": {\"type\": \"text\", \"text\": \"up\", \"bbox\": [35, 134, 1552, 999], \"width\": 1728, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "在已打开的微博网页版中，进入到\"搞笑\"频道，找到并复制第一条带图片的帖子中的第一张图片，通过组合快捷键粘贴并发送给微信中的\"L.L.L主理人\"。要求复制图片后直接从程序坞中打开微信。", |
| "task_id": 800, |
| "instruction": "滑动 [在整个网页区域向上方滑动]", |
| "screen_size": [ |
| 1728, |
| 1080 |
| ], |
| "scene": "跨应用协作（多端产品使用->数据共享", |
| "device": "macOS", |
| "complexity": "高", |
| "platform": "App (多应用交互)", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512091825_500.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1765452341933_7dc60f54_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为886*1920)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>将淘宝app购物车内的42码纯白色\"空军一号\"鞋子商品的规格更改为纯黑色以及44码，要求先选择款式再选择码数。\n你已经完成步骤: 1. 单击 社交网络分类框; 2. 单击 淘宝app; 3. 单击 购物车按钮; 4. 单击 CW2288-111纯白空军;42; 5. 单击 CW2288-001纯黑-店长推荐。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [163, 1324, 271, 1390], \"width\": 886, \"height\": 1920}}", |
| "extra_data": { |
| "goal": "将淘宝app购物车内的42码纯白色\"空军一号\"鞋子商品的规格更改为纯黑色以及44码，要求先选择款式再选择码数。", |
| "task_id": 115, |
| "instruction": "单击 [鞋码下的44]", |
| "screen_size": [ |
| 886, |
| 1920 |
| ], |
| "scene": "交易与服务（购物）->在线购物", |
| "device": "iOS", |
| "complexity": "中", |
| "platform": "移动端app", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202510271324_31.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1763971827267_313a9a94_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为3840*2160)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开程序坞中的\"Safari浏览器\"在搜索栏中输入网址\"www.ctrip.com\"通过enter键进入携程旅行官网，在\"预订酒店\"板块的\"目的地\"下拉栏中选择\"天津\"，然后进行搜索，将搜索结果在地图上展示，先在\"位置区域\"中的\"机场车站\"选定为\"天津站\"，再通过调整排序方式筛选出直线距离\"天津站\"最近的酒店，并打开列表第一个酒店的详情。\n你已经完成步骤: 1. 单击 程序坞中的Safari浏览器图标; 2. 输入 www.ctrip.com; 3. 按下 enter键。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [1474, 697, 2067, 846], \"width\": 3840, \"height\": 2160}}", |
| "extra_data": { |
| "goal": "打开程序坞中的\"Safari浏览器\"在搜索栏中输入网址\"www.ctrip.com\"通过enter键进入携程旅行官网，在\"预订酒店\"板块的\"目的地\"下拉栏中选择\"天津\"，然后进行搜索，将搜索结果在地图上展示，先在\"位置区域\"中的\"机场车站\"选定为\"天津站\"，再通过调整排序方式筛选出直线距离\"天津站\"最近的酒店，并打开列表第一个酒店的详情。", |
| "task_id": 661, |
| "instruction": "单击 [\"目的地\"输入框]", |
| "screen_size": [ |
| 3840, |
| 2160 |
| ], |
| "scene": "交易与服务（购物）->旅行预订", |
| "device": "macOS", |
| "complexity": "高", |
| "platform": "Browser Use", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512231411_361.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766641236815_9ab8f34a_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>已在edge浏览器中打开了\"光明网\"，现在进入\"Video\"频道，从新闻列表中打开最新一条关于机器狗的视频报道，并将视频调成2倍速播放。\n你已经完成步骤: 1. 单击 频道栏右侧\"Video\"按钮; 2. 单击 新闻列表第5条含有\"robotic dog\"的词条; 3. 滑动 在光明网页面区域向上滑动; 4. 悬停 页面的视频区域; 5. 悬停 \"1x\"标签。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [898, 757, 934, 778], \"width\": 1728, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "已在edge浏览器中打开了\"光明网\"，现在进入\"Video\"频道，从新闻列表中打开最新一条关于机器狗的视频报道，并将视频调成2倍速播放。", |
| "task_id": 318, |
| "instruction": "单击 [弹框中的\"2x\"按钮]", |
| "screen_size": [ |
| 1728, |
| 1080 |
| ], |
| "scene": "信息获取（休闲娱乐）->新闻查询", |
| "device": "macOS", |
| "complexity": "中", |
| "platform": "Browser Use, App端内", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512091743_18.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1765424051143_7bd405e4_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*1440)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从桌面开始，打开美团APP，进入\"打车\"频道，选择\"我的\"，打开我的会员的\"美团专属福利\"。\n你已经完成步骤: 1. 单击 美团APP; 2. 单击 \"打车\"图标; 3. 单击 右上角\"我的\"图标。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [16, 126, 1060, 571], \"width\": 1080, \"height\": 1440}}", |
| "extra_data": { |
| "goal": "从桌面开始，打开美团APP，进入\"打车\"频道，选择\"我的\"，打开我的会员的\"美团专属福利\"。", |
| "task_id": 561, |
| "instruction": "单击 [上方会员卡片]", |
| "screen_size": [ |
| 1080, |
| 1440 |
| ], |
| "scene": "交易与服务（购物）->生活服务（美团定向任务）-打车", |
| "device": "iPadOS", |
| "complexity": "中", |
| "platform": "APP", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512181556_261.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766142959951_43633679_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2332)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在小象超市app中搜索550ml fino洗发露，在对应商品详情页内调出它的\"相似商品\"页面。\n你已经完成步骤: 1. 单击 小象超市app。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [32, 247, 894, 342], \"width\": 1080, \"height\": 2332}}", |
| "extra_data": { |
| "goal": "在小象超市app中搜索550ml fino洗发露，在对应商品详情页内调出它的\"相似商品\"页面。", |
| "task_id": 133, |
| "instruction": "单击 [输入框]", |
| "screen_size": [ |
| 1080, |
| 2332 |
| ], |
| "scene": "交易与服务（购物）->小象超市、外卖、拼好饭等", |
| "device": "iOS", |
| "complexity": "中", |
| "platform": "移动端app", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202511251636_133.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1764212058340_a740d08e_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为444*960)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>将抖音app中正在播放的短视频内容分享给转发列表里第一位用户。\n你已经完成步骤: 1. 单击 右边的\"转发图标\"; 2. 单击 弹出框内左边第一个用户。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [11, 873, 432, 935], \"width\": 444, \"height\": 960}}", |
| "extra_data": { |
| "goal": "将抖音app中正在播放的短视频内容分享给转发列表里第一位用户。", |
| "task_id": 94, |
| "instruction": "单击 [\"发送\"按钮]", |
| "screen_size": [ |
| 444, |
| 960 |
| ], |
| "scene": "通信与社交->社交媒体互动", |
| "device": "Android", |
| "complexity": "低", |
| "platform": "移动端app", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202511041512_3.94.2.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1763719911351_60eb1819_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2336)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开淘宝APP，搜索\"Aurocean\"店铺，搜索后从上方分类导航栏的店铺列表进入该店铺，在店内搜索\"蓝色格子衬衫\"（通过搜索按钮）。然后收藏搜索后的商品列表中出现的第一件价格不超过180元的商品。\n你已经完成步骤: 1. 单击 淘宝app; 2. 单击 搜索框内输入文字部分。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"type\", \"object\": {\"type\": \"text\", \"text\": \"Aurocean\"}}", |
| "extra_data": { |
| "goal": "打开淘宝APP，搜索\"Aurocean\"店铺，搜索后从上方分类导航栏的店铺列表进入该店铺，在店内搜索\"蓝色格子衬衫\"（通过搜索按钮）。然后收藏搜索后的商品列表中出现的第一件价格不超过180元的商品。", |
| "task_id": 121, |
| "instruction": "输入 [Aurocean]", |
| "screen_size": [ |
| 1080, |
| 2336 |
| ], |
| "scene": "交易与服务（购物）->在线购物", |
| "device": "Android", |
| "complexity": "高", |
| "platform": "移动端app", |
| "intent": "间接意图", |
| "video": "screenshots/abilities/action_execution/202511051849_1.121.4.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/121-3.png" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2248)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开网易BUFF APP，搜索\"多普勒蝴蝶刀\"，打开第一个带有\"崭新出厂\"字样商品的详情页面。\n你已经完成步骤: 1. 单击 网易BUFF APP。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [99, 125, 888, 188], \"width\": 1080, \"height\": 2248}}", |
| "extra_data": { |
| "goal": "打开网易BUFF APP，搜索\"多普勒蝴蝶刀\"，打开第一个带有\"崭新出厂\"字样商品的详情页面。", |
| "task_id": 1, |
| "instruction": "单击 [搜索框]", |
| "screen_size": [ |
| 1080, |
| 2248 |
| ], |
| "scene": "信息获取（休闲娱乐）->媒体娱乐", |
| "device": "Android", |
| "complexity": "中", |
| "platform": "移动端app", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202510271820_522.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1763717628930_14910327_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>我已打开\"Book1\"Excel文档，选中销售额一列进行从大到小排序，过程中需要扩展选定区域；然后选中毛利率一列，通过右击浮窗将数字格式调整为小数位数0位。\n你已经完成步骤: 1. 单击 Excel 表格的\"C 列\"列标题。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [1379, 108, 1436, 142], \"width\": 1728, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "我已打开\"Book1\"Excel文档，选中销售额一列进行从大到小排序，过程中需要扩展选定区域；然后选中毛利率一列，通过右击浮窗将数字格式调整为小数位数0位。", |
| "task_id": 351, |
| "instruction": "单击 [ Excel 工具栏中的\"排序\"按钮]", |
| "screen_size": [ |
| 1728, |
| 1080 |
| ], |
| "scene": "生产力与创作（办公场景）->表格处理", |
| "device": "Windows", |
| "complexity": "高", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512191032_51.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766371609925_595ac748_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从Google浏览器首页开始，在浏览器最上方网址栏输入网址\"https://mail.qq.com\"，通过enter进入QQ邮箱，将草稿箱内的草稿全选后删除。\n暂无无历史步骤。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"type\", \"object\": {\"type\": \"text\", \"text\": \"https://mail.qq.com\"}}", |
| "extra_data": { |
| "goal": "从Google浏览器首页开始，在浏览器最上方网址栏输入网址\"https://mail.qq.com\"，通过enter进入QQ邮箱，将草稿箱内的草稿全选后删除。", |
| "task_id": 59, |
| "instruction": "输入 [https://mail.qq.com]", |
| "screen_size": [ |
| 1920, |
| 1080 |
| ], |
| "scene": "生产力与创作（办公场景）->邮件管理", |
| "device": "Windows", |
| "complexity": "中", |
| "platform": "桌面端网页", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202511111750_59.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1764038496847_e4bc69c1_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从启动台打开闲鱼APP，进入我的界面，打开历史浏览中的第一条内容。\n你已经完成步骤: 1. 单击 闲鱼APP; 2. 单击 右下角我的。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [609, 354, 708, 434], \"width\": 1728, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "从启动台打开闲鱼APP，进入我的界面，打开历史浏览中的第一条内容。", |
| "task_id": 464, |
| "instruction": "单击 [历史浏览选项]", |
| "screen_size": [ |
| 1728, |
| 1080 |
| ], |
| "scene": "交易与服务（购物）->在线购物", |
| "device": "macOS", |
| "complexity": "中", |
| "platform": "APP", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512161807_164.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1765952772678_3fb2abb5_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从启动台内打开WPS Office APP，通过左侧工具栏新建一个空白表格，接着直接利用WPS页面内的\"插入附件\"功能将桌面上的\"产品经理简历.pdf\"插入到表格中。\n你已经完成步骤: 1. 单击 程序坞中的启动台图标; 2. 单击 \"WPS Office\" 应用图标; 3. 单击 WPS 界面左侧的\"+新建\"按钮; 4. 单击 新建菜单里的 \"表格\" 选项; 5. 单击 \"空白表格\" 选项。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [548, 76, 605, 113], \"width\": 1728, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "从启动台内打开WPS Office APP，通过左侧工具栏新建一个空白表格，接着直接利用WPS页面内的\"插入附件\"功能将桌面上的\"产品经理简历.pdf\"插入到表格中。", |
| "task_id": 357, |
| "instruction": "单击 [WPS页面内操作功能区的 \"插入\" 选项]", |
| "screen_size": [ |
| 1728, |
| 1080 |
| ], |
| "scene": "生产力与创作（办公场景）->表格处理", |
| "device": "macOS", |
| "complexity": "高", |
| "platform": "App (桌面主)", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512121409_57.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1765783095873_ee7a12d9_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开程序坞中的\"剪映\"App，打开\"本地草稿\"中的\"草稿1\"，通过右上角的\"导出\"按钮，将其按照默认名称导出到桌面，等待导出结束，然后打开程序坞中的\"QQ\"App，打开好友\"95\"的聊天对话框，通过拖拽的方式将\"草稿1\"视频发送给好友。执行到视频开始发送上传即可。\n你已经完成步骤: 1. 单击 \"剪映\"App。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [640, 697, 738, 795], \"width\": 1920, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "打开程序坞中的\"剪映\"App，打开\"本地草稿\"中的\"草稿1\"，通过右上角的\"导出\"按钮，将其按照默认名称导出到桌面，等待导出结束，然后打开程序坞中的\"QQ\"App，打开好友\"95\"的聊天对话框，通过拖拽的方式将\"草稿1\"视频发送给好友。执行到视频开始发送上传即可。", |
| "task_id": 705, |
| "instruction": "单击 [底部\"草稿1\"]", |
| "screen_size": [ |
| 1920, |
| 1080 |
| ], |
| "scene": "跨应用协作（多端产品使用）->任务接力", |
| "device": "macOS", |
| "complexity": "高", |
| "platform": "App (多应用交互)", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202601061111_405.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1767678452148_3ea4acd4_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为444*960)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从微信app的应用分身首页开始，将聊天列表中第一个好友发送的最近一张图片下载到相册，然后在醒图APP中用\"导入图片\"功能打开该图片，使用\"圣诞快乐\"模板下的第一个特效进行编辑。\n你已经完成步骤: 1. 单击 置顶联系人手电筒聊天框; 2. 单击 发送的图片内容; 3. 单击 图片右下方的下载图标按钮; 4. 滑动 在屏幕底部区域向上方向滑动; 5. 单击 桌面醒图app。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [17, 268, 217, 349], \"width\": 444, \"height\": 960}}", |
| "extra_data": { |
| "goal": "从微信app的应用分身首页开始，将聊天列表中第一个好友发送的最近一张图片下载到相册，然后在醒图APP中用\"导入图片\"功能打开该图片，使用\"圣诞快乐\"模板下的第一个特效进行编辑。", |
| "task_id": 711, |
| "instruction": "单击 [\"导入图片\"按钮]", |
| "screen_size": [ |
| 444, |
| 960 |
| ], |
| "scene": "跨应用协作（多端产品使用）->任务接力", |
| "device": "Android", |
| "complexity": "高", |
| "platform": "App (多应用交互)", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512221445_12.22.2.40d.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766386876476_d73523da_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*1440)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从桌面出发，进入美团app首页，在首页的美团打车频道内下单一个由当前位置到西安博物院北门游客中心的顺风车订单，操作到\"选择预约时间\"页面即可。\n你已经完成步骤: 1. 单击 美团app。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [260, 169, 399, 312], \"width\": 1080, \"height\": 1440}}", |
| "extra_data": { |
| "goal": "从桌面出发，进入美团app首页，在首页的美团打车频道内下单一个由当前位置到西安博物院北门游客中心的顺风车订单，操作到\"选择预约时间\"页面即可。", |
| "task_id": 162, |
| "instruction": "单击 [打车]", |
| "screen_size": [ |
| 1080, |
| 1440 |
| ], |
| "scene": "交易与服务（购物）->打车", |
| "device": "iPadOS", |
| "complexity": "中", |
| "platform": "移动端app", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202511101748_162.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1763974773524_7ce31aa4_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为7680*4320)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在已登录的支付宝网页版中，从上方导航栏进入交易记录页面，筛选出最近一个月内交易金额为0-5元的所有交易记录，然后删除筛选后的第一条交易记录。\n你已经完成步骤: 1. 单击 页面上方\"交易记录\"按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [5843, 2286, 6165, 2367], \"width\": 7680, \"height\": 4320}}", |
| "extra_data": { |
| "goal": "在已登录的支付宝网页版中，从上方导航栏进入交易记录页面，筛选出最近一个月内交易金额为0-5元的所有交易记录，然后删除筛选后的第一条交易记录。", |
| "task_id": 768, |
| "instruction": "单击 [\"高级筛选\"下拉符按钮]", |
| "screen_size": [ |
| 7680, |
| 4320 |
| ], |
| "scene": "交易与服务（购物）->在线银行/支付", |
| "device": "Windows", |
| "complexity": "高", |
| "platform": "Web", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512111821_468.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766109535601_373c09bf_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为720*1600)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开\"美团\"APP，选择\"看病买药\"中的\"感冒发烧\"，选择左侧分类中的\"消炎药\"，选择\"阿莫西林\"，进入第一个商品选择\"凑单购买\"，以默认规格加入购物车。\n你已经完成步骤: 1. 单击 美团APP; 2. 单击 导航栏中的\"看病买药\"; 3. 单击 24小时下的\"感冒发烧\"; 4. 单击 左侧的导航栏中的\"消炎药\"。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [375, 356, 516, 418], \"width\": 720, \"height\": 1600}}", |
| "extra_data": { |
| "goal": "打开\"美团\"APP，选择\"看病买药\"中的\"感冒发烧\"，选择左侧分类中的\"消炎药\"，选择\"阿莫西林\"，进入第一个商品选择\"凑单购买\"，以默认规格加入购物车。", |
| "task_id": 652, |
| "instruction": "单击 [药品分类标签栏中的\"阿莫西林\"]", |
| "screen_size": [ |
| 720, |
| 1600 |
| ], |
| "scene": "交易与服务（购物）->生活服务（美团定向任务）-看病买药", |
| "device": "Android", |
| "complexity": "高", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512231411_352.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766630016087_a1a9b941_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*1440)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从美团首页进入\"电影演出\"，选择\"脱口秀\"中\"限时优惠\"下的第一场演出，选购一张日期为\"今日20:00场次\"的普通单人票，页面停留在\"确认购票\"即可。\n你已经完成步骤: 1. 单击 导航栏中的\"电影演出\"; 2. 单击 导航栏中的\"脱口秀\"; 3. 单击 限时优惠版块的第一场演出。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [102, 1358, 1062, 1422], \"width\": 1080, \"height\": 1440}}", |
| "extra_data": { |
| "goal": "从美团首页进入\"电影演出\"，选择\"脱口秀\"中\"限时优惠\"下的第一场演出，选购一张日期为\"今日20:00场次\"的普通单人票，页面停留在\"确认购票\"即可。", |
| "task_id": 875, |
| "instruction": "单击 [下方红色的\"特惠购票\"按钮]", |
| "screen_size": [ |
| 1080, |
| 1440 |
| ], |
| "scene": "交易与服务（购物）->生活服务（美团定向任务）-电影演出", |
| "device": "iPadOS", |
| "complexity": "高", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512221828_575.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766470733845_24e26c5f_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在已打开的微信app页面中，将最近活跃的一个群设置为免打扰。\n你已经完成步骤: 1. 右击 有两条未读消息的群聊。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [621, 517, 747, 554], \"width\": 1728, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "在已打开的微信app页面中，将最近活跃的一个群设置为免打扰。", |
| "task_id": 74, |
| "instruction": "单击 [浮窗中的消息免打扰选项]", |
| "screen_size": [ |
| 1728, |
| 1080 |
| ], |
| "scene": "通信与社交->即时通讯", |
| "device": "macOS", |
| "complexity": "低", |
| "platform": "桌面端app", |
| "intent": "间接意图", |
| "video": "screenshots/abilities/action_execution/202511061132_74.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/74-2.png" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为432*960)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在美团app团购频道内筛选出距离热门商圈\"钟楼/鼓楼\"最近的团购商品，并收藏筛选后列表中第一个娱乐类商品团购。要求先筛选商圈再筛选距离。\n你已经完成步骤: 1. 单击 美团app; 2. 单击 分类栏中\"团购\"按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [4, 468, 76, 507], \"width\": 432, \"height\": 960}}", |
| "extra_data": { |
| "goal": "在美团app团购频道内筛选出距离热门商圈\"钟楼/鼓楼\"最近的团购商品，并收藏筛选后列表中第一个娱乐类商品团购。要求先筛选商圈再筛选距离。", |
| "task_id": 859, |
| "instruction": "单击 [\"附近\"下拉符按钮]", |
| "screen_size": [ |
| 432, |
| 960 |
| ], |
| "scene": "交易与服务（购物）->生活服务（美团定向任务）-团购", |
| "device": "Android", |
| "complexity": "高", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512181026_559.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766397235990_2e61138e_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在电脑的系统设置里将备忘录的文字大小由\"使用首选阅读字体大小\"改为14点。\n你已经完成步骤: 1. 单击 系统设置图标; 2. 单击 辅助功能; 3. 单击 视觉板块下的显示选项; 4. 单击 文字大小选项; 5. 单击 备忘录旁对应的选项栏。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [598, 462, 789, 487], \"width\": 1728, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "在电脑的系统设置里将备忘录的文字大小由\"使用首选阅读字体大小\"改为14点。", |
| "task_id": 217, |
| "instruction": "单击 [ 14点]", |
| "screen_size": [ |
| 1728, |
| 1080 |
| ], |
| "scene": "系统与设置（操作设置）->操作系统设置", |
| "device": "macOS", |
| "complexity": "中", |
| "platform": "桌面端系统应用", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202511061525_217.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/217-6.png" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从\"启动台\"内进入腾讯新闻app，先打开腾讯新闻app的\"开机自动启动\"功能，然后关闭推送通知。要求全程鼠标操作。\n暂无无历史步骤。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [96, 1017, 140, 1060], \"width\": 1728, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "从\"启动台\"内进入腾讯新闻app，先打开腾讯新闻app的\"开机自动启动\"功能，然后关闭推送通知。要求全程鼠标操作。", |
| "task_id": 226, |
| "instruction": "单击 [程序坞中的启动台]", |
| "screen_size": [ |
| 1728, |
| 1080 |
| ], |
| "scene": "系统与设置（操作设置）->应用设置与管理", |
| "device": "macOS", |
| "complexity": "中", |
| "platform": "桌面端app", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202511071531_226.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1763627808753_5724c832_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为886*1920)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从抖音app正在播放的短视频页面开始，在评论区里艾特推荐用户列表里的第一位用户。\n你已经完成步骤: 1. 单击 右侧的评论符号; 2. 单击 右下角的@符号; 3. 单击 弹窗中的第一个用户。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": [\"click\", \"click\"], \"object\": [{\"type\": \"bbox\", \"bbox\": [742, 913, 859, 984], \"width\": 886, \"height\": 1920}, {\"type\": \"bbox\", \"bbox\": [714, 1511, 881, 1739], \"width\": 886, \"height\": 1920}]}", |
| "extra_data": { |
| "goal": "从抖音app正在播放的短视频页面开始，在评论区里艾特推荐用户列表里的第一位用户。", |
| "task_id": 99, |
| "instruction": "单击 [发送按钮]", |
| "screen_size": [ |
| 886, |
| 1920 |
| ], |
| "scene": "通信与社交->社交媒体互动", |
| "device": "iOS", |
| "complexity": "中", |
| "platform": "移动端app", |
| "intent": "间接意图", |
| "video": "screenshots/abilities/action_execution/202511051551_99.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1763703696941_fb4ce385_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为886*1920)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开美团app\"电影演出\"频道里\"话剧音乐剧\"热销榜第一的演出详情页。\n你已经完成步骤: 1. 单击 美团app; 2. 单击 电影演出。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"scroll\", \"object\": {\"type\": \"text\", \"text\": \"left\", \"bbox\": [4, 364, 883, 526], \"width\": 886, \"height\": 1920}}", |
| "extra_data": { |
| "goal": "打开美团app\"电影演出\"频道里\"话剧音乐剧\"热销榜第一的演出详情页。", |
| "task_id": 169, |
| "instruction": "滑动 [在上方分类区域向左滑动]", |
| "screen_size": [ |
| 886, |
| 1920 |
| ], |
| "scene": "交易与服务（购物）->电影演出", |
| "device": "iOS", |
| "complexity": "中", |
| "platform": "移动端app", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202510271356_169.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1763953823663_7a8c6d8d_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开edge浏览器，在顶部网址栏输入\"latexlive.com\"并使用enter快捷键进入该网页，然后从桌面底部栏打开飞书APP，复制最近一个联系人发来的未读消息，然后将飞书最小化，接着以纯文本的格式粘贴到刚打开的latex公式编辑器的输入区域中，并将输出区域的结果以jpg图片格式输出。要求复制粘贴动作通过鼠标右键操作执行，且在飞书app内的所有操作均通过点击鼠标执行。\n你已经完成步骤: 1. 双击 桌面上的Microsoft Edge浏览器。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"type\", \"object\": {\"type\": \"text\", \"text\": \"latexlive.com\"}}", |
| "extra_data": { |
| "goal": "打开edge浏览器，在顶部网址栏输入\"latexlive.com\"并使用enter快捷键进入该网页，然后从桌面底部栏打开飞书APP，复制最近一个联系人发来的未读消息，然后将飞书最小化，接着以纯文本的格式粘贴到刚打开的latex公式编辑器的输入区域中，并将输出区域的结果以jpg图片格式输出。要求复制粘贴动作通过鼠标右键操作执行，且在飞书app内的所有操作均通过点击鼠标执行。", |
| "task_id": 239, |
| "instruction": "输入 [latexlive.com]", |
| "screen_size": [ |
| 1920, |
| 1080 |
| ], |
| "scene": "跨应用协作（多端产品使用）->任务接力", |
| "device": "Windows", |
| "complexity": "高", |
| "platform": "跨应用", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202511271606_239.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1764231561006_4525b1e7_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2336)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在京东APP首页顶部搜索\"哑光口红\"，通过\"品牌\"筛选，进入\"迪奥\"品牌里的第一个商品。\n你已经完成步骤: 1. 单击 上方搜索框; 2. 输入 哑光口红; 3. 单击 \"搜索\"按钮; 4. 单击 \"品牌\"下拉按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [3, 897, 133, 1012], \"width\": 1080, \"height\": 2336}}", |
| "extra_data": { |
| "goal": "在京东APP首页顶部搜索\"哑光口红\"，通过\"品牌\"筛选，进入\"迪奥\"品牌里的第一个商品。", |
| "task_id": 473, |
| "instruction": "单击 [左侧边栏中的\"迪奥\"]", |
| "screen_size": [ |
| 1080, |
| 2336 |
| ], |
| "scene": "交易与服务（购物）->在线购物", |
| "device": "iOS", |
| "complexity": "中", |
| "platform": "APP", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512161807_173.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1765955601647_03389733_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从桌面打开哔哩哔哩App，输入搜索\"蜡笔小新\"，并播放综合页面内视频栏的第一个视频。\n你已经完成步骤: 1. 双击 bilibili app; 2. 单击 搜索框。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"type\", \"object\": {\"type\": \"text\", \"text\": \"蜡笔小新\"}}", |
| "extra_data": { |
| "goal": "从桌面打开哔哩哔哩App，输入搜索\"蜡笔小新\"，并播放综合页面内视频栏的第一个视频。", |
| "task_id": 393, |
| "instruction": "输入 [蜡笔小新]", |
| "screen_size": [ |
| 1728, |
| 1080 |
| ], |
| "scene": "通信与社交（社交）->社交媒体互动", |
| "device": "macOS", |
| "complexity": "中", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/15772498183_1764834445496_8bc915b5_93.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1765173156584_e5704d79_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1440*3200)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>进入美团APP的看病买药频道，打开24小时服务的肠胃消化板块，在专治呕吐的药品列表中，将出现的第一个进口药品加入购物车，商家就选择默认的在售商家。\n你已经完成步骤: 1. 单击 分类栏中\"看病买药\"按钮; 2. 单击 24h服务中\"肠胃消化\"按钮; 3. 单击 左侧\"呕吐\"按钮; 4. 单击 列表中第一件商品信息内容。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [479, 2956, 938, 3109], \"width\": 1440, \"height\": 3200}}", |
| "extra_data": { |
| "goal": "进入美团APP的看病买药频道，打开24小时服务的肠胃消化板块，在专治呕吐的药品列表中，将出现的第一个进口药品加入购物车，商家就选择默认的在售商家。", |
| "task_id": 883, |
| "instruction": "单击 [底部\"加入购物车\"按钮]", |
| "screen_size": [ |
| 1440, |
| 3200 |
| ], |
| "scene": "交易与服务（购物）->生活服务（美团定向任务）-看病买药", |
| "device": "Android", |
| "complexity": "中", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512181358_Screenrecorder-2025-12-18-13-56-37-660.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766474687355_906153f7_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>双击桌面上的快捷方式打开Edge浏览器，在最上方网址栏输入\"https://www.taobao.com\"并使用enter快捷键进入淘宝网页版，打开收货地址列表。\n你已经完成步骤: 1. 双击 桌面上的Microsoft Edge浏览器。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"type\", \"object\": {\"type\": \"text\", \"text\": \"https://www.taobao.com\"}}", |
| "extra_data": { |
| "goal": "双击桌面上的快捷方式打开Edge浏览器，在最上方网址栏输入\"https://www.taobao.com\"并使用enter快捷键进入淘宝网页版，打开收货地址列表。", |
| "task_id": 106, |
| "instruction": "输入 [https://www.taobao.com]", |
| "screen_size": [ |
| 1728, |
| 1080 |
| ], |
| "scene": "交易与服务（购物）->在线购物", |
| "device": "Windows", |
| "complexity": "中", |
| "platform": "桌面端网页", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202511251605_106.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1764213363455_ec2634fd_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为432*960)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从手机桌面进入中免日上APP，等待广告结束，搜索\"蔻驰单肩包\"，通过虚拟键盘上的搜索键搜索出对应结果，进入列表中第一个价格不超过3000的商品页面，选择奶油色加入购物车，如果没有奶油色，选择黑色加入购物车。\n你已经完成步骤: 1. 单击 中免日上APP; 2. 等待 4秒; 3. 单击 最上方的搜索框; 4. 输入 蔻驰单肩包。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [362, 883, 424, 941], \"width\": 432, \"height\": 960}}", |
| "extra_data": { |
| "goal": "从手机桌面进入中免日上APP，等待广告结束，搜索\"蔻驰单肩包\"，通过虚拟键盘上的搜索键搜索出对应结果，进入列表中第一个价格不超过3000的商品页面，选择奶油色加入购物车，如果没有奶油色，选择黑色加入购物车。", |
| "task_id": 694, |
| "instruction": "单击 [虚拟键盘上的搜索键]", |
| "screen_size": [ |
| 432, |
| 960 |
| ], |
| "scene": "异常（端内异常）->处理界面变化/元素失效", |
| "device": "Android", |
| "complexity": "高", |
| "platform": "App", |
| "intent": "模糊意图", |
| "video": "screenshots/abilities/action_execution/202512161826_1216-394.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766131802406_79c41621_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从程序坞中进入系统设置后，将腾讯视频app的通知声音关闭，然后将显示预览由\"始终\"改为\"解锁时\"。\n你已经完成步骤: 1. 单击 设置图标; 2. 单击 通知; 3. 单击 应用程序通知板块下的腾讯视频; 4. 单击 播放通知的声音对应的开关按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [883, 529, 928, 557], \"width\": 1728, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "从程序坞中进入系统设置后，将腾讯视频app的通知声音关闭，然后将显示预览由\"始终\"改为\"解锁时\"。", |
| "task_id": 220, |
| "instruction": "单击 [显示预览右侧对应的选项栏]", |
| "screen_size": [ |
| 1728, |
| 1080 |
| ], |
| "scene": "系统与设置（操作设置）->操作系统设置", |
| "device": "macOS", |
| "complexity": "中", |
| "platform": "桌面端app", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202511181124_220.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/220-5.png" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为886*1920)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开微信app，将聊天列表的置顶好友发送的最近一张图片点开后保存至相册，然后在淘宝app内进行识图，打开搜索结果中出现的第一个商品，选择黑色最大码添加至购物车。\n你已经完成步骤: 1. 单击 微信app; 2. 单击 置顶联系人聊天框。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [146, 1372, 384, 1687], \"width\": 886, \"height\": 1920}}", |
| "extra_data": { |
| "goal": "打开微信app，将聊天列表的置顶好友发送的最近一张图片点开后保存至相册，然后在淘宝app内进行识图，打开搜索结果中出现的第一个商品，选择黑色最大码添加至购物车。", |
| "task_id": 716, |
| "instruction": "单击 [最新图片消息]", |
| "screen_size": [ |
| 886, |
| 1920 |
| ], |
| "scene": "跨应用协作（多端产品使用）->任务接力", |
| "device": "iOS", |
| "complexity": "高", |
| "platform": "App (多应用交互)", |
| "intent": "模糊意图", |
| "video": "screenshots/abilities/action_execution/202512151536_2025-12-15 15_30_11.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766123572816_8be33c58_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从Edge浏览器内已打开的淘宝网页版首页开始，通过店铺搜索方式进入\"图拉斯旗舰店\"（通过搜索按钮进行搜索），在产品分类栏里找到充电配件里的充电宝，并按照销量进行排序，要求除文本输入外，其余操作全部用鼠标进行。\n暂无无历史步骤。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [428, 231, 517, 283], \"width\": 1728, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "从Edge浏览器内已打开的淘宝网页版首页开始，通过店铺搜索方式进入\"图拉斯旗舰店\"（通过搜索按钮进行搜索），在产品分类栏里找到充电配件里的充电宝，并按照销量进行排序，要求除文本输入外，其余操作全部用鼠标进行。", |
| "task_id": 113, |
| "instruction": "单击 [ 淘宝页面搜索框左侧写有宝贝的按钮]", |
| "screen_size": [ |
| 1728, |
| 1080 |
| ], |
| "scene": "交易与服务（购物）->在线购物", |
| "device": "macOS", |
| "complexity": "高", |
| "platform": "桌面端网页", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202511061516_113.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/113-1.png" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开桌面上名为\"成绩表\"的Excel 文件，选中B2单元格，然后选择工具栏中的自定义排序，选择\"添加条件\"，先设置\"次要关键字\"为\"总分\"，后设置次要关键字的次序为\"降序\"，其余保持默认不变，进行排序。\n你已经完成步骤: 1. 双击 名为\"成绩表\"的Excel 文件; 2. 单击 B2单元格; 3. 单击 表格顶部操作栏的\"排序\"功能按钮; 4. 单击 排序下拉框中的\"自定义排序(U)···\"选项。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [584, 382, 698, 413], \"width\": 1920, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "打开桌面上名为\"成绩表\"的Excel 文件，选中B2单元格，然后选择工具栏中的自定义排序，选择\"添加条件\"，先设置\"次要关键字\"为\"总分\"，后设置次要关键字的次序为\"降序\"，其余保持默认不变，进行排序。", |
| "task_id": 568, |
| "instruction": "单击 [弹窗内\"添加条件(A)\"按钮]", |
| "screen_size": [ |
| 1920, |
| 1080 |
| ], |
| "scene": "生产力与创作\n（办公场景）->表格处理", |
| "device": "Windows", |
| "complexity": "高", |
| "platform": "App（桌面主）", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512231349_268.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766483403963_17c08d62_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在已打开的safari浏览器通过个人收藏进入淘宝官网，输入搜索\"纸巾\"，打开第一个商品，滑动页面至用户评价并打开\"查看全部评价\"，通过标签筛选出图/视频评价。\n你已经完成步骤: 1. 单击 淘宝图标。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [764, 226, 1115, 276], \"width\": 1728, \"height\": 1080}}", |
| "extra_data": { |
| "goal": "在已打开的safari浏览器通过个人收藏进入淘宝官网，输入搜索\"纸巾\"，打开第一个商品，滑动页面至用户评价并打开\"查看全部评价\"，通过标签筛选出图/视频评价。", |
| "task_id": 488, |
| "instruction": "单击 [淘宝首页的搜索框]", |
| "screen_size": [ |
| 1728, |
| 1080 |
| ], |
| "scene": "交易与服务（购物）->在线购物", |
| "device": "macOS", |
| "complexity": "高", |
| "platform": "Web", |
| "intent": "模糊意图", |
| "video": "screenshots/abilities/action_execution/202512161813_188.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1765958432967_df9db7f0_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1200)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在edge浏览器搜索\"小红书\"失败了，显示网络异常，打开WiFi自动连接网络后，使页面自动恢复正常。\n你已经完成步骤: 1. 单击 右下角任务栏的网络状态图标。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [1397, 560, 1470, 633], \"width\": 1920, \"height\": 1200}}", |
| "extra_data": { |
| "goal": "在edge浏览器搜索\"小红书\"失败了，显示网络异常，打开WiFi自动连接网络后，使页面自动恢复正常。", |
| "task_id": 678, |
| "instruction": "单击 [快捷弹窗设置面板里的WLAN图标]", |
| "screen_size": [ |
| 1920, |
| 1200 |
| ], |
| "scene": "异常（端内异常）->处理加载/网络问题", |
| "device": "Windows", |
| "complexity": "低", |
| "platform": "Web", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512161821_20251216_181841.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766383032180_5774c69e_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1200)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从中国铁路 12306 官方网站首页开始，出发地选择 \"北京\"、到达地选择 \"天津\"、出发日期选择 12 月 19 日，提交查询后，滑动查看结果列表中第一趟车次的停靠站信息页面。\n你已经完成步骤: 1. 单击 信息填写模块中的\"Origin\"右侧的输入框; 2. 单击 城市选择快捷面板中的\"Beijing\"; 3. 单击 城市选择快捷面板中的\"tianjin\"; 4. 单击 \"Departure\"右侧对应输入框; 5. 单击 日期选择日历面板中十二月的19号; 6. 单击 信息填写模块下方的\"Inquiry\"按钮; 7. 单击 车次\"K7731\"。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"scroll\", \"object\": {\"type\": \"text\", \"text\": \"up\", \"bbox\": [168, 781, 699, 1078], \"width\": 1920, \"height\": 1200}}", |
| "extra_data": { |
| "goal": "从中国铁路 12306 官方网站首页开始，出发地选择 \"北京\"、到达地选择 \"天津\"、出发日期选择 12 月 19 日，提交查询后，滑动查看结果列表中第一趟车次的停靠站信息页面。", |
| "task_id": 904, |
| "instruction": "滑动 [在经停站弹窗内区域向上方滑动]", |
| "screen_size": [ |
| 1920, |
| 1200 |
| ], |
| "scene": "交易与服务（购物）->旅行预订", |
| "device": "Windows", |
| "complexity": "高", |
| "platform": "Browser Use", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512191014_604.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1767508709400_ff94d565_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为864*1920)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开\"美团\"APP的\"电影演出\"，选择\"脱口秀\"，选择\"限时优惠\"的第一个脱口秀，进入\"特惠购票\"页面，选择20号第一场的单人票，并确认，操作到跳转支付页面即可，无需进行任何支付操作。\n你已经完成步骤: 1. 单击 美团APP; 2. 单击 导航栏中的\"电影演出\"选项。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [495, 350, 590, 487], \"width\": 864, \"height\": 1920}}", |
| "extra_data": { |
| "goal": "打开\"美团\"APP的\"电影演出\"，选择\"脱口秀\"，选择\"限时优惠\"的第一个脱口秀，进入\"特惠购票\"页面，选择20号第一场的单人票，并确认，操作到跳转支付页面即可，无需进行任何支付操作。", |
| "task_id": 618, |
| "instruction": "单击 [导航栏中的\"脱口秀\"选项]", |
| "screen_size": [ |
| 864, |
| 1920 |
| ], |
| "scene": "交易与服务（购物）->生活服务（美团定向任务）-电影演出", |
| "device": "Android", |
| "complexity": "高", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512231411_318.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766556952698_88dc9b7e_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为886*1920)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从美团app\"打车\"页面开始，预约一辆今天11点25分当前位置到\"大唐不夜城\"的网约车，到选车型页面即可。（除输入文本以外所有操作都通过点击完成）\n你已经完成步骤: 1. 单击 \"预约用车\"; 2. 单击 弹窗内\"11点\"; 3. 单击 底部\"确认\"; 4. 单击 目的地输入框。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"type\", \"object\": {\"type\": \"text\", \"text\": \"大唐不夜城\"}}", |
| "extra_data": { |
| "goal": "从美团app\"打车\"页面开始，预约一辆今天11点25分当前位置到\"大唐不夜城\"的网约车，到选车型页面即可。（除输入文本以外所有操作都通过点击完成）", |
| "task_id": 864, |
| "instruction": "输入 [大唐不夜城]", |
| "screen_size": [ |
| 886, |
| 1920 |
| ], |
| "scene": "交易与服务（购物）->生活服务（美团定向任务）-打车", |
| "device": "iOS", |
| "complexity": "中", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512181107_2025-12-18 11_05_58.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1767078912801_082c7488_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1290*2796)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在\"猫眼电影\"小程序中，选择\"电影/影院\"，进入第一个电影院，查询出\"疯狂动物城2\"今天的电影票信息，要求过程中不使用滑动。\n你已经完成步骤: 1. 单击 分类栏中\"电影; 2. 单击 第一家影院信息区域。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [845, 799, 1124, 1187], \"width\": 1290, \"height\": 2796}}", |
| "extra_data": { |
| "goal": "在\"猫眼电影\"小程序中，选择\"电影/影院\"，进入第一个电影院，查询出\"疯狂动物城2\"今天的电影票信息，要求过程中不使用滑动。", |
| "task_id": 610, |
| "instruction": "单击 [疯狂动物城2海报]", |
| "screen_size": [ |
| 1290, |
| 2796 |
| ], |
| "scene": "交易与服务（购物）->生活服务（美团定向任务）-电影演出", |
| "device": "iOS", |
| "complexity": "低", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512231410_310.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766554269614_435efad1_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为444*960)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开京东 App，进入 \"秒送外卖\" 页面，在 \"已完成\" 订单列表中筛选 2023 年的订单，查看筛选结果中的第一条订单的支付方式。\n你已经完成步骤: 1. 单击 京东 App; 2. 单击 右上方\"订单\"。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [240, 138, 312, 176], \"width\": 444, \"height\": 960}}", |
| "extra_data": { |
| "goal": "打开京东 App，进入 \"秒送外卖\" 页面，在 \"已完成\" 订单列表中筛选 2023 年的订单，查看筛选结果中的第一条订单的支付方式。", |
| "task_id": 775, |
| "instruction": "单击 [上方\"已完成\"按钮]", |
| "screen_size": [ |
| 444, |
| 960 |
| ], |
| "scene": "交易与服务（购物）->在线银行/支付", |
| "device": "Android", |
| "complexity": "高", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512191055_475.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766382292547_86bdc261_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2346)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>从桌面打开美团APP，进入\"看病买药\"板块，搜索\"阿莫西林胶囊\"筛选出销量排行第一的商品，进入详情页并加入购物车。\n你已经完成步骤: 1. 单击 美团app; 2. 单击 分类栏中\"看病买药\"按钮; 3. 单击 页面上方搜索框; 4. 输入 阿莫西林胶囊; 5. 单击 键盘右下方\"搜索\"按钮。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [35, 965, 153, 1021], \"width\": 1080, \"height\": 2346}}", |
| "extra_data": { |
| "goal": "从桌面打开美团APP，进入\"看病买药\"板块，搜索\"阿莫西林胶囊\"筛选出销量排行第一的商品，进入详情页并加入购物车。", |
| "task_id": 889, |
| "instruction": "单击 [\"综合\"下拉符按钮]", |
| "screen_size": [ |
| 1080, |
| 2346 |
| ], |
| "scene": "交易与服务（购物）->生活服务（美团定向任务）-看病买药", |
| "device": "iOS", |
| "complexity": "高", |
| "platform": "App", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512191312_589.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766476743728_642f9668_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2336)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在美团APP的\"打车\"板块，目的地输入\"火车站\"打开第一个匹配结果。\n你已经完成步骤: 1. 单击 目的地输入框。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"type\", \"object\": {\"type\": \"text\", \"text\": \"火车站\"}}", |
| "extra_data": { |
| "goal": "在美团APP的\"打车\"板块，目的地输入\"火车站\"打开第一个匹配结果。", |
| "task_id": 552, |
| "instruction": "输入 [火车站]", |
| "screen_size": [ |
| 1080, |
| 2336 |
| ], |
| "scene": "交易与服务（购物）->生活服务（美团定向任务）-打车", |
| "device": "iOS", |
| "complexity": "低", |
| "platform": "APP", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512161828_252.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1766024144178_c08b079e_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>打开桌面上的大杂烩文件夹并选中唯一一张小狗图片，用快捷键复制然后关闭文件夹，同样用快捷键将刚才的图片粘贴到桌面，然后打开程序坞中QQApp，通过顶部的个人头像进入编辑资料，将头像更换成刚粘贴在桌面的小狗图片，保持默认剪裁，操作到头像保存成功即可。\n你已经完成步骤: 1. 双击 \"大杂烩\"文件夹; 2. 单击 第一张小狗图片; 3. 按下 command键+C键; 4. 单击 文件夹页面左上角的关闭按钮; 5. 按下 command键+V键; 6. 单击 程序坞中的QQ APP; 7. 单击 QQ界面内用户个人信息栏中的头像; 8. 单击 弹框中的\"编辑资料\"; 9. 单击 弹框中的头像; 10. 单击 弹框中的Desk top。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": [\"scroll\", \"scroll\"], \"object\": [{\"type\": \"text\", \"text\": \"up\", \"bbox\": [942, 254, 1216, 604], \"width\": 1728, \"height\": 1080}, {\"type\": \"text\", \"text\": \"up\", \"bbox\": [1215, 218, 1236, 605], \"width\": 1728, \"height\": 1080}]}", |
| "extra_data": { |
| "goal": "打开桌面上的大杂烩文件夹并选中唯一一张小狗图片，用快捷键复制然后关闭文件夹，同样用快捷键将刚才的图片粘贴到桌面，然后打开程序坞中QQApp，通过顶部的个人头像进入编辑资料，将头像更换成刚粘贴在桌面的小狗图片，保持默认剪裁，操作到头像保存成功即可。", |
| "task_id": 978, |
| "instruction": "滑动 [在弹框中的文件列表展示区域向上方向滑动]", |
| "screen_size": [ |
| 1728, |
| 1080 |
| ], |
| "scene": "跨应用协作（多端产品使用）->数据共享", |
| "device": "macOS", |
| "complexity": "高", |
| "platform": "App (多应用交互)", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202601041056_678.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1767669484817_502471ae_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1200)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>通过工具栏中的排序以及选中整列的方式将命名为\"糖豆便利店数据\"的excel表格里第一列的数据从大到小进行排序，仅对该列进行排序操作，最后通过工具栏对该列最大的数字进行加粗，所有步骤用鼠标左键进行。\n你已经完成步骤: 1. 双击 糖豆便利店数据文件; 2. 单击 A列; 3. 单击 工具栏中的排序与筛选按钮; 4. 单击 弹窗中的降序。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [660, 584, 885, 613], \"width\": 1920, \"height\": 1200}}", |
| "extra_data": { |
| "goal": "通过工具栏中的排序以及选中整列的方式将命名为\"糖豆便利店数据\"的excel表格里第一列的数据从大到小进行排序，仅对该列进行排序操作，最后通过工具栏对该列最大的数字进行加粗，所有步骤用鼠标左键进行。", |
| "task_id": 52, |
| "instruction": "单击 [弹窗中的以当前选定区域排序]", |
| "screen_size": [ |
| 1920, |
| 1200 |
| ], |
| "scene": "生产力与创作（办公场景）->表格处理", |
| "device": "Windows", |
| "complexity": "高", |
| "platform": "桌面端app", |
| "intent": "间接意图", |
| "video": "screenshots/abilities/action_execution/202511101307_11.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1764037555899_bd1acc4d_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| }, |
| { |
| "input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2400)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以<actions>xxx</actions>输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n<image_1>在淘宝APP首页顶部搜索框搜索\"羽毛球\"，通过\"品牌\"筛选，进入\"李宁\"品牌，打开第一个商品。\n你已经完成步骤: 1. 单击 上方搜索框; 2. 输入 羽毛球; 3. 单击 \"搜索\"按钮; 4. 单击 \"品牌\"标签。 \n请分析屏幕内容并预测下一个执行动作。", |
| "target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [1, 959, 210, 1097], \"width\": 1080, \"height\": 2400}}", |
| "extra_data": { |
| "goal": "在淘宝APP首页顶部搜索框搜索\"羽毛球\"，通过\"品牌\"筛选，进入\"李宁\"品牌，打开第一个商品。", |
| "task_id": 466, |
| "instruction": "单击 [左侧选择栏中\"李宁\"按钮]", |
| "screen_size": [ |
| 1080, |
| 2400 |
| ], |
| "scene": "交易与服务（购物）->在线购物", |
| "device": "Android", |
| "complexity": "中", |
| "platform": "APP", |
| "intent": "直接意图", |
| "video": "screenshots/abilities/action_execution/202512161807_166.mp4", |
| "url": { |
| "<image_1>": "screenshots/abilities/action_execution/1765954269678_699003e0_video_capture_frame.jpeg" |
| }, |
| "ability": "action_execution" |
| } |
| } |
| ] |
| } |
