{
"examples": [
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2400)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n复制快手app首页的第一个关于美食的视频链接。\n你已经完成步骤: 1. 单击 页面第一个视频; 2. 单击 右侧转发箭头图标。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [53, 2081, 270, 2331], \"width\": 1080, \"height\": 2400}}",
"extra_data": {
"goal": "复制快手app首页的第一个关于美食的视频链接。",
"task_id": 395,
"instruction": "单击 [Copy Link按钮]",
"screen_size": [
1080,
2400
],
"scene": "通信与社交（社交）->社交媒体互动",
"device": "Android",
"complexity": "低",
"platform": "APP",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/15772498183_1764845991728_00bcba6b_95.mp4",
"url": {
"": "screenshots/abilities/action_execution/1765173823605_080b4663_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为720*1556)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n在已打开的\"小红书\"APP中，搜索\"女生冬季穿搭\"，筛选小个子，进入第一条内容，点赞后收藏。\n你已经完成步骤: 1. 单击 右上角的搜索图标; 2. 输入 女生冬季穿搭; 3. 单击 搜索按钮; 4. 单击 筛选栏中的\"Short person\"选项; 5. 单击 第一条帖子; 6. 单击 下方心形点赞按钮。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [449, 1416, 543, 1465], \"width\": 720, \"height\": 1556}}",
"extra_data": {
"goal": "在已打开的\"小红书\"APP中，搜索\"女生冬季穿搭\"，筛选小个子，进入第一条内容，点赞后收藏。",
"task_id": 602,
"instruction": "单击 [下方星形的收藏按钮]",
"screen_size": [
720,
1556
],
"scene": "通信与社交\n（社交）->社交媒体互动",
"device": "iOS",
"complexity": "中",
"platform": "App",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512231410_302.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766553467426_afa543ca_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为886*1920)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n现在是11月份，将QQ邮箱中上个月及以前的未读邮件标记为已读。要求：先全选所有未读邮件，然后按收件时间由近到远取消选择本月未读邮件，最后再标记已读。\n你已经完成步骤: 1. 单击 QQ邮箱APP; 2. 单击 收件箱; 3. 单击 顶部的未读邮件按钮; 4. 单击 顶部的管理按钮。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [10, 126, 150, 215], \"width\": 886, \"height\": 1920}}",
"extra_data": {
"goal": "现在是11月份，将QQ邮箱中上个月及以前的未读邮件标记为已读。要求：先全选所有未读邮件，然后按收件时间由近到远取消选择本月未读邮件，最后再标记已读。",
"task_id": 67,
"instruction": "单击 [全选]",
"screen_size": [
886,
1920
],
"scene": "生产力与创作（办公场景）->邮件管理",
"device": "iOS",
"complexity": "高",
"platform": "移动端app",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202511051549_67.mp4",
"url": {
"": "screenshots/abilities/action_execution/1763950463875_44441de6_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为2073*1296)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n我在Safari浏览器搜索\"4399小游戏\"显示\"未接入互联网\"，请打开WiFi开关，自动连接网络后从第一个官网链接进入4399小游戏官网，使用短信登录账号。操作到短信登陆页面即可，不用输入电话号码。\n你已经完成步骤: 1. 单击 WiFi已断开图标; 2. 单击 Wi-Fi右侧的开关条; 3. 单击 上方工具栏的WiFi图标; 4. 单击 \"小游戏,4399小游戏,小游戏大全,双人小游戏大全-www.4399.com\"官网链接; 5. 单击 \"登录\"按钮。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [850, 310, 985, 363], \"width\": 2073, \"height\": 1296}}",
"extra_data": {
"goal": "我在Safari浏览器搜索\"4399小游戏\"显示\"未接入互联网\"，请打开WiFi开关，自动连接网络后从第一个官网链接进入4399小游戏官网，使用短信登录账号。操作到短信登陆页面即可，不用输入电话号码。",
"task_id": 268,
"instruction": "单击 [\"短信登录\"按钮]",
"screen_size": [
2073,
1296
],
"scene": "异常（端内异常）->处理加载/网络问题",
"device": "macOS",
"complexity": "中",
"platform": "桌面端网页",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202511031753_268.mp4",
"url": {
"": "screenshots/abilities/action_execution/268-6.png"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为3840*2160)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n打开程序坞中的\"QQ\"App，然后通过左下角的\"更多\"打开\"设置\"，在\"通用\"板块内将\"界面模式\"设置为\"经典模式\"，再将\"外观设置\"设置为\"夜间\"，然后切换到\"权限设置\"将\"加我为好友时的验证方式\"设置为\"需要验证信息\"并应用。\n你已经完成步骤: 1. 单击 程序坞中的QQ图标。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [1133, 1688, 1190, 1739], \"width\": 3840, \"height\": 2160}}",
"extra_data": {
"goal": "打开程序坞中的\"QQ\"App，然后通过左下角的\"更多\"打开\"设置\"，在\"通用\"板块内将\"界面模式\"设置为\"经典模式\"，再将\"外观设置\"设置为\"夜间\"，然后切换到\"权限设置\"将\"加我为好友时的验证方式\"设置为\"需要验证信息\"并应用。",
"task_id": 972,
"instruction": "单击 [QQ界面内左下角更多功能菜单按钮]",
"screen_size": [
3840,
2160
],
"scene": "系统与设置（操作设置）->应用设置与管理",
"device": "macOS",
"complexity": "高",
"platform": "App (自身设置)",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512291704_672.mp4",
"url": {
"": "screenshots/abilities/action_execution/1767090346735_eccbf85d_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2336)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n打开Safari 浏览器并搜索\"路透社官网\"。\n你已经完成步骤: 1. 单击 Safari浏览器app; 2. 单击 搜索框。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"type\", \"object\": {\"type\": \"text\", \"text\": \"路透社官网\"}}",
"extra_data": {
"goal": "打开Safari 浏览器并搜索\"路透社官网\"。",
"task_id": 323,
"instruction": "输入 [路透社官网]",
"screen_size": [
1080,
2336
],
"scene": "信息获取（休闲娱乐）->新闻查询",
"device": "iOS",
"complexity": "低",
"platform": "Browser Use, App端内",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/13927328549_1764120840722_5b023f3e_24 路透社官网.mp4",
"url": {
"": "screenshots/abilities/action_execution/1764566799445_354fb40e_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n在淘宝首页搜索\"无线蓝牙耳机\"，打开搜索到的第一个商品，进入客服对话，一键发送宝贝链接。在聊天框输入\"耳机待机时间多久\"并发送。\n你已经完成步骤: 1. 单击 淘宝首页搜索框; 2. 输入 无线蓝牙耳机; 3. 单击 搜索按钮; 4. 单击 第一个商品卡片。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [857, 280, 951, 341], \"width\": 1920, \"height\": 1080}}",
"extra_data": {
"goal": "在淘宝首页搜索\"无线蓝牙耳机\"，打开搜索到的第一个商品，进入客服对话，一键发送宝贝链接。在聊天框输入\"耳机待机时间多久\"并发送。",
"task_id": 484,
"instruction": "单击 [客服按钮]",
"screen_size": [
1920,
1080
],
"scene": "交易与服务（购物）->在线购物",
"device": "Windows",
"complexity": "高",
"platform": "Web",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512161813_184.mp4",
"url": {
"": "screenshots/abilities/action_execution/1765957522093_29a5a9b1_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为720*1556)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n进入美团的拼好饭页面打开\"饺子粥饼\"类别，按顺序通过标签筛选出满足\"30分钟达\"和\"收录老店\"的商品，选择列表第一个商品进行购买，口味如果需要选择就选择带有微辣的，操作到提交订单页面即可。\n你已经完成步骤: 1. 单击 美团APP; 2. 单击 导航栏中的\"拼好饭\"按钮; 3. 滑动 在分类导航栏区域向左方向滑动; 4. 单击 \"饺子粥饼\"分类按钮; 5. 滑动 在标签栏区域向左方向滑动; 6. 单击 \"30分钟达\"标签; 7. 单击 \"收录老店\"标签; 8. 单击 第一个商品卡片; 9. 单击 最下方的\"免拼购买\"按钮; 10. 单击 微辣口味的选项标签。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [27, 1415, 694, 1511], \"width\": 720, \"height\": 1556}}",
"extra_data": {
"goal": "进入美团的拼好饭页面打开\"饺子粥饼\"类别，按顺序通过标签筛选出满足\"30分钟达\"和\"收录老店\"的商品，选择列表第一个商品进行购买，口味如果需要选择就选择带有微辣的，操作到提交订单页面即可。",
"task_id": 845,
"instruction": "单击 [下方的\"确定\"按钮]",
"screen_size": [
720,
1556
],
"scene": "交易与服务（购物）->生活服务（美团定向任务）-小象超市、外卖、拼好饭等",
"device": "Android",
"complexity": "高",
"platform": "App",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512191659_12.19.4.37b.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766393482139_934b1db2_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2346)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n从桌面打开美团APP，进入\"看病买药\"板块找到\"中医/养生\"，筛选医保定点商户后，打开排序第一的商户详情页。\n你已经完成步骤: 1. 单击 美团APP; 2. 单击 导航栏中的\"看病买药\"选项; 3. 单击 品类分类导航栏中的\"中医。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [928, 1335, 1079, 1419], \"width\": 1080, \"height\": 2346}}",
"extra_data": {
"goal": "从桌面打开美团APP，进入\"看病买药\"板块找到\"中医/养生\"，筛选医保定点商户后，打开排序第一的商户详情页。",
"task_id": 885,
"instruction": "单击 [商品筛选标签栏中的\"医保定点\"]",
"screen_size": [
1080,
2346
],
"scene": "交易与服务（购物）->生活服务（美团定向任务）-看病买药",
"device": "iOS",
"complexity": "中",
"platform": "App",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512181451_585.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766474842804_352abbfb_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为432*960)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n从手机桌面打开美团APP，帮我叫一辆以\"东新街小区西门\"地址为起始点、\"大明宫遗址公园观光车售票处\"地址为终点，要求只留特价车，其它车型先全选后取消。\n你已经完成步骤: 1. 单击 美团APP; 2. 单击 导航栏中的\"打车\"选项; 3. 单击 上车点选择栏; 4. 输入 东新街小区西门; 5. 单击 \"东新街小区-西门\"选项; 6. 单击 目的地输入栏; 7. 输入 大明宫遗址公园观光车售票处; 8. 单击 \"大明宫遗址公园-观光车售票处\"选项; 9. 单击 \"全选经济型\"右侧的选择框。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [315, 546, 409, 570], \"width\": 432, \"height\": 960}}",
"extra_data": {
"goal": "从手机桌面打开美团APP，帮我叫一辆以\"东新街小区西门\"地址为起始点、\"大明宫遗址公园观光车售票处\"地址为终点，要求只留特价车，其它车型先全选后取消。",
"task_id": 865,
"instruction": "单击 [\"全选经济型\"右侧的选择框]",
"screen_size": [
432,
960
],
"scene": "交易与服务（购物）->生活服务（美团定向任务）-打车",
"device": "Android",
"complexity": "高",
"platform": "App",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512221318_565.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766469844002_4b4cf929_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n在Edge浏览器的添加语言设置功能中输入搜索\"中文\"并将繁体中文添加到语言列表中。\n你已经完成步骤: 1. 单击 Edge浏览器图标; 2. 单击 右上角的设置及其他按钮; 3. 单击 设置选项; 4. 单击 左侧边栏的\"语言\"选项; 5. 单击 添加语言按钮; 6. 单击 搜索语言输入框; 7. 输入 中文。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [643, 441, 905, 479], \"width\": 1728, \"height\": 1080}}",
"extra_data": {
"goal": "在Edge浏览器的添加语言设置功能中输入搜索\"中文\"并将繁体中文添加到语言列表中。",
"task_id": 229,
"instruction": "单击 [中文（繁体）-中文（繁體）选项]",
"screen_size": [
1728,
1080
],
"scene": "系统与设置（操作设置）->应用设置与管理",
"device": "macOS",
"complexity": "中",
"platform": "桌面端app",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202511061357_229.mp4",
"url": {
"": "screenshots/abilities/action_execution/1763628516297_3fe41774_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n在淘宝首页搜索\"无线蓝牙耳机\"，打开搜索到的第一个商品，进入客服对话，一键发送宝贝链接。在聊天框输入\"耳机待机时间多久\"并发送。\n你已经完成步骤: 1. 单击 淘宝首页搜索框; 2. 输入 无线蓝牙耳机; 3. 单击 搜索按钮; 4. 单击 第一个商品卡片; 5. 单击 客服按钮; 6. 单击 右侧的发送宝贝链接按钮; 7. 单击 聊天框的发送按钮; 8. 单击 聊天输入框; 9. 输入 耳机待机时间多久。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [1266, 1015, 1326, 1052], \"width\": 1920, \"height\": 1080}}",
"extra_data": {
"goal": "在淘宝首页搜索\"无线蓝牙耳机\"，打开搜索到的第一个商品，进入客服对话，一键发送宝贝链接。在聊天框输入\"耳机待机时间多久\"并发送。",
"task_id": 484,
"instruction": "单击 [聊天框的发送按钮]",
"screen_size": [
1920,
1080
],
"scene": "交易与服务（购物）->在线购物",
"device": "Windows",
"complexity": "高",
"platform": "Web",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512161813_184.mp4",
"url": {
"": "screenshots/abilities/action_execution/1765957992607_a0f87a1f_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n在淘宝APP首页的大搜索框中，用组合快捷键粘贴已经复制好的\"De Beers\"并进行搜索，进入第一个商品页面，通过右侧浮窗工具复制商品链接。\n你已经完成步骤: 1. 单击 淘宝首页的搜索框。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"press\", \"object\": {\"type\": \"text\", \"text\": \"ctrl,v\"}}",
"extra_data": {
"goal": "在淘宝APP首页的大搜索框中，用组合快捷键粘贴已经复制好的\"De Beers\"并进行搜索，进入第一个商品页面，通过右侧浮窗工具复制商品链接。",
"task_id": 460,
"instruction": "按下 [ctrl+v]",
"screen_size": [
1728,
1080
],
"scene": "交易与服务（购物）->在线购物",
"device": "Windows",
"complexity": "中",
"platform": "APP",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512161757_160.mp4",
"url": {
"": "screenshots/abilities/action_execution/1765951133674_5e111c54_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2336)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n打开微博发现页面的第一个热搜话题。\n你已经完成步骤: 1. 单击 下方发现按钮。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [5, 359, 524, 430], \"width\": 1080, \"height\": 2336}}",
"extra_data": {
"goal": "打开微博发现页面的第一个热搜话题。",
"task_id": 311,
"instruction": "单击 [亡妻在游戏中的房...]",
"screen_size": [
1080,
2336
],
"scene": "信息获取（休闲娱乐）->媒体娱乐",
"device": "iOS",
"complexity": "低",
"platform": "App端内",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/13927328549_1764230163651_105fdfa7_11+微博热搜.mp4",
"url": {
"": "screenshots/abilities/action_execution/1764311257825_09218b57_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2344)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n从桌面开始打开美团APP，进入\"打车\"频道，保持默认上车地址，预约用车时间为\"明天\"默认时间，输入目的地\"\"武汉天河国际机场\"\"，在已勾选的现有车型的基础上追加勾选\"\"六座商务\"\"。执行到车型选择结束即可。除了输入文本以外的其他操作全部使用点击完成。\n你已经完成步骤: 1. 单击 美团APP; 2. 单击 \"打车\"图标; 3. 单击 \"预约用车\"图标; 4. 单击 弹窗内\"12月17日 明天\"; 5. 单击 底部\"确认\"按钮。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [63, 1770, 1015, 1930], \"width\": 1080, \"height\": 2344}}",
"extra_data": {
"goal": "从桌面开始打开美团APP，进入\"打车\"频道，保持默认上车地址，预约用车时间为\"明天\"默认时间，输入目的地\"\"武汉天河国际机场\"\"，在已勾选的现有车型的基础上追加勾选\"\"六座商务\"\"。执行到车型选择结束即可。除了输入文本以外的其他操作全部使用点击完成。",
"task_id": 562,
"instruction": "单击 [\"目的地输入框\"]",
"screen_size": [
1080,
2344
],
"scene": "交易与服务（购物）->生活服务（美团定向任务）-打车",
"device": "Android",
"complexity": "高",
"platform": "APP",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512181556_262.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766144230363_2caded48_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n打开桌面上的 \"This PC\"，然后在 \"Documents\" 中打开 \"Character Profiles\" 文件夹，将里面的文档按照修改日期进行排序，然后打开修改时间最新的 Word 文档。\n你已经完成步骤: 1. 双击 桌面上的This PC按钮。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [586, 489, 735, 521], \"width\": 1920, \"height\": 1080}}",
"extra_data": {
"goal": "打开桌面上的 \"This PC\"，然后在 \"Documents\" 中打开 \"Character Profiles\" 文件夹，将里面的文档按照修改日期进行排序，然后打开修改时间最新的 Word 文档。",
"task_id": 438,
"instruction": "单击 [左侧导航栏中\"Documents\"按钮 ]",
"screen_size": [
1920,
1080
],
"scene": "信息获取（休闲娱乐）->文件浏览",
"device": "Windows",
"complexity": "中",
"platform": "App (桌面主)",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512161754_138.mp4",
"url": {
"": "screenshots/abilities/action_execution/1765940171950_e98962c8_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2408)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n在小象超市APP首页的\"海鲜水产\"类搜索\"黄花鱼\"，打开\"销量\"下的第一个商品详情页，然后将它加入购物车。\n你已经完成步骤: 1. 单击 海鲜水产按钮; 2. 单击 左上角的搜索框; 3. 输入 黄花鱼。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [823, 297, 933, 371], \"width\": 1080, \"height\": 2408}}",
"extra_data": {
"goal": "在小象超市APP首页的\"海鲜水产\"类搜索\"黄花鱼\"，打开\"销量\"下的第一个商品详情页，然后将它加入购物车。",
"task_id": 507,
"instruction": "单击 [搜索按钮]",
"screen_size": [
1080,
2408
],
"scene": "交易与服务（购物）->生活服务（美团定向任务）-小象超市、外卖、拼好饭等",
"device": "Android",
"complexity": "中",
"platform": "APP",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512161822_207.mp4",
"url": {
"": "screenshots/abilities/action_execution/1765961703759_ab5f82d7_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为3840*2160)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n打开程序坞中的\"Safari浏览器\"，通过\"个人收藏\"打开\"携程旅行\"官网，在左侧侧边栏跳转到\"攻略·景点\"页面，在该页面中的搜索栏输入\"滑雪\"并搜索，通过enter键搜索，然后筛选\"景点\"，在不滑动页面的情况下，打开评分最高的一个景点详情页。\n你已经完成步骤: 1. 单击 程序坞中的Safari浏览器; 2. 单击 Favorites下方的携程; 3. 悬停 左侧侧边栏; 4. 单击 左侧侧边导航栏中的\"攻略·景点\"; 5. 单击 携程旅行下方的搜索框; 6. 输入 滑雪。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"press\", \"object\": {\"type\": \"text\", \"text\": \"enter\"}}",
"extra_data": {
"goal": "打开程序坞中的\"Safari浏览器\"，通过\"个人收藏\"打开\"携程旅行\"官网，在左侧侧边栏跳转到\"攻略·景点\"页面，在该页面中的搜索栏输入\"滑雪\"并搜索，通过enter键搜索，然后筛选\"景点\"，在不滑动页面的情况下，打开评分最高的一个景点详情页。",
"task_id": 906,
"instruction": "按下 [enter键]",
"screen_size": [
3840,
2160
],
"scene": "交易与服务（购物）->旅行预订",
"device": "macOS",
"complexity": "高",
"platform": "Browser Use",
"intent": "模糊意图",
"video": "screenshots/abilities/action_execution/202512291704_606.mp4",
"url": {
"": "screenshots/abilities/action_execution/1767078610978_61596923_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n从浏览器中已打开的淘宝商品页面开始，先将该商品在地毯尺寸中选为超立体款，然后颜色选为\"金色线条小猫-圣诞款\"或者\"香槟色涂鸦热带鱼\"，加入购物车后进入该商品所在店铺，打开\"毛巾面巾\"品类，筛选新品，进入第一个商品。\n你已经完成步骤: 1. 滑动 在右侧商品信息区域向上方向滑动; 2. 单击 3.0版Pro超立体款标签; 3. 滑动 在商品规格区域向下方向滑动; 4. 单击 香槟色涂鸦热带鱼标签; 5. 单击 加入购物车按钮。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [823, 282, 932, 336], \"width\": 1728, \"height\": 1080}}",
"extra_data": {
"goal": "从浏览器中已打开的淘宝商品页面开始，先将该商品在地毯尺寸中选为超立体款，然后颜色选为\"金色线条小猫-圣诞款\"或者\"香槟色涂鸦热带鱼\"，加入购物车后进入该商品所在店铺，打开\"毛巾面巾\"品类，筛选新品，进入第一个商品。",
"task_id": 693,
"instruction": "单击 [进店按钮]",
"screen_size": [
1728,
1080
],
"scene": "异常（端内异常）->处理界面变化/元素失效",
"device": "macOS",
"complexity": "高",
"platform": "App",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202601051313_393.mp4",
"url": {
"": "screenshots/abilities/action_execution/1767665744746_6fcf16aa_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为432*960)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n在小红书app搜索\"秋冬美甲\"，收藏综合列表下的第一条笔记。\n你已经完成步骤: 1. 单击 小红书app; 2. 单击 右上角放大镜符号; 3. 输入 秋冬美甲; 4. 单击 搜索按钮。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [6, 207, 210, 592], \"width\": 432, \"height\": 960}}",
"extra_data": {
"goal": "在小红书app搜索\"秋冬美甲\"，收藏综合列表下的第一条笔记。",
"task_id": 96,
"instruction": "单击 [页面中第一条笔记]",
"screen_size": [
432,
960
],
"scene": "通信与社交->社交媒体互动",
"device": "Android",
"complexity": "中",
"platform": "移动端app",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202511041319_3-96.mp4",
"url": {
"": "screenshots/abilities/action_execution/1763718902859_c8d2a21e_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n打开程序坞中的\"Microsoft Word\"，在\"模板\"中选中\"空白文档\"，然后通过\"创建\"按钮新建一个文档，文档第一行输入\"2025年度总结\"，通过回车键换行，在上方工具栏的插入功能中，打开左侧边栏中\"桌面\"的\"年度总结\"图片并插入。\n暂无无历史步骤。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [1516, 1016, 1560, 1057], \"width\": 1728, \"height\": 1080}}",
"extra_data": {
"goal": "打开程序坞中的\"Microsoft Word\"，在\"模板\"中选中\"空白文档\"，然后通过\"创建\"按钮新建一个文档，文档第一行输入\"2025年度总结\"，通过回车键换行，在上方工具栏的插入功能中，打开左侧边栏中\"桌面\"的\"年度总结\"图片并插入。",
"task_id": 945,
"instruction": "单击 [程序坞中的Microsoft Wordapp]",
"screen_size": [
1728,
1080
],
"scene": "生产力与创作（办公场景）->文档处理",
"device": "macOS",
"complexity": "高",
"platform": "App (桌面主)",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202601041056_645.mp4",
"url": {
"": "screenshots/abilities/action_execution/1767667436758_76f902df_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1200)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n将微信聊天列表里，第一个联系人聊天框内的最近一个文件直接保存在桌面上名为\"1\"的文件夹，然后将微信app最小化，接着在桌面上的文件夹\"1\"中打开刚刚保存的文件，通过选中整行的方式将第一行的所有字体通过上方操作栏一键加粗。\n你已经完成步骤: 1. 双击 桌面里的微信软件。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [521, 227, 839, 327], \"width\": 1920, \"height\": 1200}}",
"extra_data": {
"goal": "将微信聊天列表里，第一个联系人聊天框内的最近一个文件直接保存在桌面上名为\"1\"的文件夹，然后将微信app最小化，接着在桌面上的文件夹\"1\"中打开刚刚保存的文件，通过选中整行的方式将第一行的所有字体通过上方操作栏一键加粗。",
"task_id": 698,
"instruction": "单击 [联系人 \"L\" 的会话]",
"screen_size": [
1920,
1200
],
"scene": "跨应用协作（多端产品使用）->任务接力",
"device": "Windows",
"complexity": "高",
"platform": "App (多应用交互)",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512171125_398.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766117980811_c801572e_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n从WPS中通过单击的方式打开名为\"成绩表\"的excel文档，利用一次冻结操作完成对第一行和第一列的冻结，然后将文档另存在桌面上。\n你已经完成步骤: 1. 双击 桌面WPS Office app快捷方式; 2. 单击 成绩表.xlsx。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [131, 304, 217, 328], \"width\": 1728, \"height\": 1080}}",
"extra_data": {
"goal": "从WPS中通过单击的方式打开名为\"成绩表\"的excel文档，利用一次冻结操作完成对第一行和第一列的冻结，然后将文档另存在桌面上。",
"task_id": 54,
"instruction": "单击 [B2单元格]",
"screen_size": [
1728,
1080
],
"scene": "生产力与创作（办公场景）->表格处理",
"device": "Windows",
"complexity": "高",
"platform": "桌面端app",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202511251551_54.mp4",
"url": {
"": "screenshots/abilities/action_execution/1764211468459_9e5ced01_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1290*2796)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n在已打开的美团App的\"看病买药\"页面，进入\"问医生\"界面，在\"找专家\"板块选择\"皮肤科\"，进入第一个医生的详情页。\n暂无无历史步骤。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [296, 422, 470, 526], \"width\": 1290, \"height\": 2796}}",
"extra_data": {
"goal": "在已打开的美团App的\"看病买药\"页面，进入\"问医生\"界面，在\"找专家\"板块选择\"皮肤科\"，进入第一个医生的详情页。",
"task_id": 642,
"instruction": "单击 [搜索框下的\"问医生\"选项]",
"screen_size": [
1290,
2796
],
"scene": "交易与服务（购物）->生活服务（美团定向任务）-看病买药",
"device": "iOS",
"complexity": "低",
"platform": "App",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512231411_342.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766571094753_d745534e_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n使用Google浏览器中已打开的网易163邮箱网页版，编辑一封主题为\"秋日来信\"的邮件，收件人邮箱为：hr@target.com，邮件正文内容是\"秋意正浓，出来喝下午茶否。\"。要求：先填写收件人，再填写主题，最后撰写邮件正文，操作到邮件撰写完成即可，不需要发送。\n暂无无历史步骤。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [118, 205, 242, 253], \"width\": 1728, \"height\": 1080}}",
"extra_data": {
"goal": "使用Google浏览器中已打开的网易163邮箱网页版，编辑一封主题为\"秋日来信\"的邮件，收件人邮箱为：hr@target.com，邮件正文内容是\"秋意正浓，出来喝下午茶否。\"。要求：先填写收件人，再填写主题，最后撰写邮件正文，操作到邮件撰写完成即可，不需要发送。",
"task_id": 62,
"instruction": "单击 [写信按钮]",
"screen_size": [
1728,
1080
],
"scene": "生产力与创作（办公场景）->邮件管理",
"device": "macOS",
"complexity": "中",
"platform": "桌面端网页",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202511061325_62.mp4",
"url": {
"": "screenshots/abilities/action_execution/62-1.png"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为2880*1800)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n从阿里巴巴APP首页开始，输入\"周杰伦专辑\"并用enter键进行搜索，打开第一个结果的\"Choice Commitment\"。\n你已经完成步骤: 1. 单击 阿里巴巴首页\"搜索框\"; 2. 输入 周杰伦专辑。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"press\", \"object\": {\"type\": \"text\", \"text\": \"enter\"}}",
"extra_data": {
"goal": "从阿里巴巴APP首页开始，输入\"周杰伦专辑\"并用enter键进行搜索，打开第一个结果的\"Choice Commitment\"。",
"task_id": 465,
"instruction": "按下 [enter键]",
"screen_size": [
2880,
1800
],
"scene": "交易与服务（购物）->在线购物",
"device": "macOS",
"complexity": "中",
"platform": "APP",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512161807_165.mp4",
"url": {
"": "screenshots/abilities/action_execution/1765953907650_1c4cf2f8_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为432*960)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n从QQ音乐APP首页开始，帮我把收藏内的歌曲排序顺序改为\"按默认方式排序\"，接着播放重新排序后的第一首歌，将音质改为\"HQ高品质\"。\n你已经完成步骤: 1. 单击 \"收藏\"功能入口; 2. 单击 歌曲的排序按钮; 3. 单击 弹框中的\"按默认方式排序\"选项。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [3, 275, 431, 346], \"width\": 432, \"height\": 960}}",
"extra_data": {
"goal": "从QQ音乐APP首页开始，帮我把收藏内的歌曲排序顺序改为\"按默认方式排序\"，接着播放重新排序后的第一首歌，将音质改为\"HQ高品质\"。",
"task_id": 909,
"instruction": "单击 [第一首歌]",
"screen_size": [
432,
960
],
"scene": "信息获取（休闲娱乐）->媒体娱乐",
"device": "Android",
"complexity": "中",
"platform": "App端内",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512181642_609.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766480844071_b763aa71_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为884*1920)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n打开\"猫眼\"APP，进入电影/影院，筛选并打开距离我最近的影城，进入右上角的定位图标界面，确认\"到这去\"后，跳转到\"高德地图\"APP内，进入路线界面，筛选地铁优先，进入第一个路线规划界面后开始导航。\n你已经完成步骤: 1. 单击 桌面猫眼app; 2. 单击 底部导航栏\"电影; 3. 单击 \"价格低\"下拉按钮; 4. 单击 选择框中\"距离近\"按钮; 5. 单击 列表中第一家影院信息区域; 6. 单击 观影套餐上方影院地址信息区域; 7. 单击 底部\"到这去\"按钮; 8. 单击 弹框中\"高德地图\"按钮; 9. 单击 公共交通板块下\"地铁优先\"按钮。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [15, 481, 870, 806], \"width\": 884, \"height\": 1920}}",
"extra_data": {
"goal": "打开\"猫眼\"APP，进入电影/影院，筛选并打开距离我最近的影城，进入右上角的定位图标界面，确认\"到这去\"后，跳转到\"高德地图\"APP内，进入路线界面，筛选地铁优先，进入第一个路线规划界面后开始导航。",
"task_id": 985,
"instruction": "单击 [列表第一条路线规划区域]",
"screen_size": [
884,
1920
],
"scene": "跨应用协作（多端产品使用）->任务接力",
"device": "iOS",
"complexity": "高",
"platform": "App (多应用交互)",
"intent": "模糊意图",
"video": "screenshots/abilities/action_execution/202512291718_685.mp4",
"url": {
"": "screenshots/abilities/action_execution/1767148842668_d853580e_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为886*1920)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n现在是11月份，将QQ邮箱中上个月及以前的未读邮件标记为已读。要求：先全选所有未读邮件，然后按收件时间由近到远取消选择本月未读邮件，最后再标记已读。\n你已经完成步骤: 1. 单击 QQ邮箱APP; 2. 单击 收件箱; 3. 单击 顶部的未读邮件按钮; 4. 单击 顶部的管理按钮; 5. 单击 全选; 6. 单击 列表第一封未读邮件勾选框; 7. 单击 列表第二封未读邮件勾选框。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [13, 754, 103, 852], \"width\": 886, \"height\": 1920}}",
"extra_data": {
"goal": "现在是11月份，将QQ邮箱中上个月及以前的未读邮件标记为已读。要求：先全选所有未读邮件，然后按收件时间由近到远取消选择本月未读邮件，最后再标记已读。",
"task_id": 67,
"instruction": "单击 [列表第三封未读邮件勾选框]",
"screen_size": [
886,
1920
],
"scene": "生产力与创作（办公场景）->邮件管理",
"device": "iOS",
"complexity": "高",
"platform": "移动端app",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202511051549_67.mp4",
"url": {
"": "screenshots/abilities/action_execution/1763950855281_7532fa4f_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为720*1600)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n在已打开\"美团\"APP中，进入跑腿中的帮我买，选择人气小吃第一个店铺的第一款食物，在不进入食物详情页面的情况下加入购物车。\n暂无无历史步骤。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [300, 542, 419, 640], \"width\": 720, \"height\": 1600}}",
"extra_data": {
"goal": "在已打开\"美团\"APP中，进入跑腿中的帮我买，选择人气小吃第一个店铺的第一款食物，在不进入食物详情页面的情况下加入购物车。",
"task_id": 631,
"instruction": "单击 [分类栏中\"跑腿\"按钮]",
"screen_size": [
720,
1600
],
"scene": "交易与服务（购物）->生活服务（美团定向任务）-跑腿",
"device": "Android",
"complexity": "中",
"platform": "App",
"intent": "模糊意图",
"video": "screenshots/abilities/action_execution/202512231411_331.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766565111128_cce10d85_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1440*3200)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n从桌面进入云闪付，在首页的查银行卡中功能中查询可用余额并显示金额。\n你已经完成步骤: 1. 单击 \"云闪付\"app图标。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [347, 1318, 545, 1519], \"width\": 1440, \"height\": 3200}}",
"extra_data": {
"goal": "从桌面进入云闪付，在首页的查银行卡中功能中查询可用余额并显示金额。",
"task_id": 892,
"instruction": "单击 [\"查银行卡\"按钮]",
"screen_size": [
1440,
3200
],
"scene": "交易与服务（购物）->在线银行/支付",
"device": "Android",
"complexity": "中",
"platform": "App",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512181350_Screenrecorder-2025-12-18-13-47-02-640.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766476613922_06839091_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为3840*2160)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n打开程序坞中的\"Safari浏览器\"在搜索栏中输入\"www.dianping.com\"通过回车键进入\"大众点评\"官网，搜索\"烤肉\"后按回车键，在\"地点\"板块中筛选\"行政区\"为\"西城区\"，将搜索结果按照\"人气\"排序，打开排序之后第一条结果的详情页面。\n暂无无历史步骤。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [1781, 2034, 1868, 2117], \"width\": 3840, \"height\": 2160}}",
"extra_data": {
"goal": "打开程序坞中的\"Safari浏览器\"在搜索栏中输入\"www.dianping.com\"通过回车键进入\"大众点评\"官网，搜索\"烤肉\"后按回车键，在\"地点\"板块中筛选\"行政区\"为\"西城区\"，将搜索结果按照\"人气\"排序，打开排序之后第一条结果的详情页面。",
"task_id": 667,
"instruction": "单击 [程序坞中Safari浏览器]",
"screen_size": [
3840,
2160
],
"scene": "交易与服务（购物）->旅行预订",
"device": "macOS",
"complexity": "高",
"platform": "Browser Use",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512231411_367.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766643410762_3b762e12_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为432*960)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n进入美团app，用\"跑腿\"功能创建一个潮玩好物的代买订单，操作到订单填写页面即可。\n你已经完成步骤: 1. 单击 美团app; 2. 单击 跑腿; 3. 单击 帮我买。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [257, 461, 320, 528], \"width\": 432, \"height\": 960}}",
"extra_data": {
"goal": "进入美团app，用\"跑腿\"功能创建一个潮玩好物的代买订单，操作到订单填写页面即可。",
"task_id": 173,
"instruction": "单击 [潮玩好物]",
"screen_size": [
432,
960
],
"scene": "交易与服务（购物）->跑腿",
"device": "Android",
"complexity": "中",
"platform": "移动端app",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202510271459_173.mp4",
"url": {
"": "screenshots/abilities/action_execution/1763962070113_d696890f_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2400)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n打开小象超市APP，等待广告结束，然后进入领券页面，打开买赠专区买1赠1的更多凑单商品页面。\n你已经完成步骤: 1. 单击 小象超市APP。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"wait\", \"object\": {\"type\": \"text\", \"text\": \"3\"}}",
"extra_data": {
"goal": "打开小象超市APP，等待广告结束，然后进入领券页面，打开买赠专区买1赠1的更多凑单商品页面。",
"task_id": 506,
"instruction": "等待 [3秒]",
"screen_size": [
1080,
2400
],
"scene": "交易与服务（购物）->生活服务（美团定向任务）-小象超市、外卖、拼好饭等",
"device": "Android",
"complexity": "中",
"platform": "APP",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512181656_206.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766145434765_ce8f4ae2_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为444*960)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n从手机桌面开始，进入淘宝APP，搜索\"头盔\"，在筛选条件中先选择中国免费配送，再选择10-100价格区间，将筛选结果中的第一个头盔商品加入收藏。\n你已经完成步骤: 1. 单击 淘宝app图标; 2. 单击 页面上方搜索输入框; 3. 输入 头盔。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": [\"click\", \"click\"], \"object\": [{\"type\": \"bbox\", \"bbox\": [357, 51, 428, 91], \"width\": 444, \"height\": 960}, {\"type\": \"bbox\", \"bbox\": [367, 821, 440, 885], \"width\": 444, \"height\": 960}]}",
"extra_data": {
"goal": "从手机桌面开始，进入淘宝APP，搜索\"头盔\"，在筛选条件中先选择中国免费配送，再选择10-100价格区间，将筛选结果中的第一个头盔商品加入收藏。",
"task_id": 838,
"instruction": "单击 [输入框右侧的\"搜索\"按钮]",
"screen_size": [
444,
960
],
"scene": "交易与服务（购物）->在线购物",
"device": "Android",
"complexity": "高",
"platform": "App",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512241431_12.24.4.30-b.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766646206625_be192b81_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n将待处理表格文件夹内的所有文件按照上次打开日期进行排序，然后打开最近一次打开过的文件，要求全程使用鼠标操作。\n你已经完成步骤: 1. 双击 待处理表格文件夹; 2. 单击 更改项目的分组方式符号按钮。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [1106, 329, 1233, 353], \"width\": 1728, \"height\": 1080}}",
"extra_data": {
"goal": "将待处理表格文件夹内的所有文件按照上次打开日期进行排序，然后打开最近一次打开过的文件，要求全程使用鼠标操作。",
"task_id": 41,
"instruction": "单击 [弹窗内的上次打开日期]",
"screen_size": [
1728,
1080
],
"scene": "信息获取（休闲娱乐）->文件浏览",
"device": "macOS",
"complexity": "中",
"platform": "桌面端app",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512021429_41.mp4",
"url": {
"": "screenshots/abilities/action_execution/1764658126633_075fd57e_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n在程序坞中打开腾讯会议app，并把腾讯会议本地录制文件保存位置更改为桌面的\"会议录屏\"文件夹。\n你已经完成步骤: 1. 单击 腾讯会议app; 2. 单击 腾讯会议app框内左侧的设置图标; 3. 单击 左侧的\"录制\"按钮; 4. 单击 右侧的\"更改\"按钮; 5. 单击 左侧的\"桌面\"按钮; 6. 单击 \"会议录屏\"按钮。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [1233, 756, 1320, 782], \"width\": 1728, \"height\": 1080}}",
"extra_data": {
"goal": "在程序坞中打开腾讯会议app，并把腾讯会议本地录制文件保存位置更改为桌面的\"会议录屏\"文件夹。",
"task_id": 228,
"instruction": "单击 [\"打开\"按钮]",
"screen_size": [
1728,
1080
],
"scene": "系统与设置（操作设置）->应用设置与管理",
"device": "macOS",
"complexity": "中",
"platform": "桌面端app",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202511061556_228.mp4",
"url": {
"": "screenshots/abilities/action_execution/1763456315687_a4a6bb71_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为884*1920)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n在\"今日头条\"APP中打开科技频道的头条热榜页面。\n你已经完成步骤: 1. 单击 今日头条app; 2. 滑动 在顶部的频道导航栏区域向左滑动; 3. 单击 导航栏中\"科技\"按钮。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [675, 683, 853, 735], \"width\": 884, \"height\": 1920}}",
"extra_data": {
"goal": "在\"今日头条\"APP中打开科技频道的头条热榜页面。",
"task_id": 22,
"instruction": "单击 [科技榜右侧\"完整榜单\"按钮]",
"screen_size": [
884,
1920
],
"scene": "信息获取（休闲娱乐）->新闻查询",
"device": "iOS",
"complexity": "低",
"platform": "移动端app",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202510271519_jrtt.mp4",
"url": {
"": "screenshots/abilities/action_execution/1763721628531_d7afc856_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为888*1920)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n从手机桌面开始，进入\"招商银行\"app，筛选出所有\"2025.11.17-2025.11.30\"的交易记录。要求通过长按虚拟键盘中的删除键将日期删除，先删除第一个日期输入框的内容后输入\"20251117\"，再删除第二个日期输入框的内容后输入\"20251130\"。\n你已经完成步骤: 1. 单击 招商银行app; 2. 单击 Transaction History选项; 3. 单击 \"Recent 1 Week\"时间范围选择栏; 4. 单击 起始日期输入框; 5. 长按 数字键盘上的删除按钮; 6. 输入 20251117; 7. 单击 结束日期输入框; 8. 长按 数字键盘上的删除按钮。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"type\", \"object\": {\"type\": \"text\", \"text\": \"20251130\"}}",
"extra_data": {
"goal": "从手机桌面开始，进入\"招商银行\"app，筛选出所有\"2025.11.17-2025.11.30\"的交易记录。要求通过长按虚拟键盘中的删除键将日期删除，先删除第一个日期输入框的内容后输入\"20251117\"，再删除第二个日期输入框的内容后输入\"20251130\"。",
"task_id": 781,
"instruction": "输入 [20251130]",
"screen_size": [
888,
1920
],
"scene": "交易与服务（购物）->在线银行/支付",
"device": "iOS",
"complexity": "高",
"platform": "App",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512111735_481.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766111751055_a5863882_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为3456*7680)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n从桌面打开微信app的应用分身，将第一个聊天框中的网址内容复制到Chrome浏览器中，在导航栏中滑动打开NBA，进入带有热点精选的第一条视频。复制粘贴均使用长按。\n你已经完成步骤: 1. 单击 II-WeChat APP; 2. 单击 Chats列表第一个联系人; 3. 长按 对话框中的第一条对话。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [913, 373, 1305, 985], \"width\": 3456, \"height\": 7680}}",
"extra_data": {
"goal": "从桌面打开微信app的应用分身，将第一个聊天框中的网址内容复制到Chrome浏览器中，在导航栏中滑动打开NBA，进入带有热点精选的第一条视频。复制粘贴均使用长按。",
"task_id": 709,
"instruction": "单击 [Copy]",
"screen_size": [
3456,
7680
],
"scene": "跨应用协作（多端产品使用）->任务接力",
"device": "Android",
"complexity": "高",
"platform": "App (多应用交互)",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512171125_409 2.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766124879947_44370944_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2346)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n打开微信，进入银行卡绑定列表，打开查看列表中第一张银行卡的交易明细。\n你已经完成步骤: 1. 单击 微信APP; 2. 单击 右下角我; 3. 单击 服务选项; 4. 单击 钱包; 5. 单击 银行卡选项; 6. 单击 第一张银行卡。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [49, 815, 1033, 956], \"width\": 1080, \"height\": 2346}}",
"extra_data": {
"goal": "打开微信，进入银行卡绑定列表，打开查看列表中第一张银行卡的交易明细。",
"task_id": 764,
"instruction": "单击 [交易明细]",
"screen_size": [
1080,
2346
],
"scene": "交易与服务（购物）->在线银行/支付",
"device": "iOS",
"complexity": "中",
"platform": "App",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512111825_vx1.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766055272189_fe89e55e_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为720*1560)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n在\"飞书\"APP已打开的BOSS聊天界面中，通过功能栏将默认列表第一张本地照片选中后发送。\n你已经完成步骤: 1. 单击 输入框下方图片图标按钮; 2. 单击 照片右上角圆圈勾选按钮。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [558, 1438, 695, 1484], \"width\": 720, \"height\": 1560}}",
"extra_data": {
"goal": "在\"飞书\"APP已打开的BOSS聊天界面中，通过功能栏将默认列表第一张本地照片选中后发送。",
"task_id": 582,
"instruction": "单击 [\"Send(1)\"按钮]",
"screen_size": [
720,
1560
],
"scene": "通信与社交\n（社交）->即时通讯",
"device": "iOS",
"complexity": "低",
"platform": "App",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512231350_282.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766544892973_2cd9273f_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2400)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n从桌面打开美团APP，并打开酒店民宿频道，进入收藏/浏览页面后打开收藏页面中的第一条内容。\n你已经完成步骤: 1. 单击 美团APP; 2. 单击 \"酒店民宿\"按钮; 3. 单击 底部\"收藏。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [0, 496, 1078, 953], \"width\": 1080, \"height\": 2400}}",
"extra_data": {
"goal": "从桌面打开美团APP，并打开酒店民宿频道，进入收藏/浏览页面后打开收藏页面中的第一条内容。",
"task_id": 524,
"instruction": "单击 [第一个酒店信息]",
"screen_size": [
1080,
2400
],
"scene": "交易与服务（购物）->生活服务（美团定向任务）-酒店民宿",
"device": "Android",
"complexity": "中",
"platform": "APP",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512161825_224.mp4",
"url": {
"": "screenshots/abilities/action_execution/1765964704689_c6efd3e9_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2346)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n打开微信，进入银行卡绑定列表，打开查看列表中第一张银行卡的交易明细。\n你已经完成步骤: 1. 单击 微信APP; 2. 单击 右下角我; 3. 单击 服务选项; 4. 单击 钱包; 5. 单击 银行卡选项。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [41, 277, 1040, 591], \"width\": 1080, \"height\": 2346}}",
"extra_data": {
"goal": "打开微信，进入银行卡绑定列表，打开查看列表中第一张银行卡的交易明细。",
"task_id": 764,
"instruction": "单击 [第一张银行卡]",
"screen_size": [
1080,
2346
],
"scene": "交易与服务（购物）->在线银行/支付",
"device": "iOS",
"complexity": "中",
"platform": "App",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512111825_vx1.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766055264935_16ccdd81_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1280*960)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n从淘宝APP首页开始，搜索\"双开门冰箱\"，打开第一个商品，然后进入其店铺首页。\n你已经完成步骤: 1. 单击 页面上方的搜索栏。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"type\", \"object\": {\"type\": \"text\", \"text\": \"双开门冰箱\"}}",
"extra_data": {
"goal": "从淘宝APP首页开始，搜索\"双开门冰箱\"，打开第一个商品，然后进入其店铺首页。",
"task_id": 479,
"instruction": "输入 [双开门冰箱]",
"screen_size": [
1280,
960
],
"scene": "交易与服务（购物）->在线购物",
"device": "iPadOS",
"complexity": "中",
"platform": "APP",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512181556_179.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766139920846_5e3bc224_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n在已打开QQ音乐网页版中，通过主页搜索框搜索\"易烊千玺\"，筛选\"专辑\"，将最近发行的一张专辑添加到歌单中的\"播放队列\"。要求除了输入文本以外的其他全部操作使用鼠标完成。\n你已经完成步骤: 1. 单击 QQ 音乐网页的搜索输入框; 2. 输入 易烊千玺; 3. 单击 从上往下第二个搜索框右侧的搜索按钮; 4. 单击 QQ 音乐歌手页面的\"专辑\"按钮; 5. 单击 第一个专辑右侧的添加到按钮。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [962, 625, 1132, 670], \"width\": 1920, \"height\": 1080}}",
"extra_data": {
"goal": "在已打开QQ音乐网页版中，通过主页搜索框搜索\"易烊千玺\"，筛选\"专辑\"，将最近发行的一张专辑添加到歌单中的\"播放队列\"。要求除了输入文本以外的其他全部操作使用鼠标完成。",
"task_id": 597,
"instruction": "单击 [弹窗中的\"播放队列\"选项]",
"screen_size": [
1920,
1080
],
"scene": "通信与社交\n（社交）->社交媒体互动",
"device": "Windows",
"complexity": "中",
"platform": "Web",
"intent": "模糊意图",
"video": "screenshots/abilities/action_execution/202512231350_297.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766546846107_263a8cab_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n把飞书\"Boboma\"联系人最新发送的word文档下载后打开，接着将该文档另存在桌面，要求选中保存位置为桌面后使用一键命名功能自动修改文件名，文档另存完成后从任务栏中打开微信，并将刚刚另存在桌面的文件通过发送文件的功能发送给微信联系人fine。要求全程操作均使用鼠标完成。\n你已经完成步骤: 1. 双击 桌面上的飞书app; 2. 单击 联系人Boboma的消息卡片; 3. 单击 Boboma发送的文档右下角的下载符号; 4. 单击 Boboma发送的文档右下角的查看文件夹符号按钮; 5. 双击 弹窗内的\"热门社交软件.docx\"文档; 6. 单击 左上方的文件按钮; 7. 单击 弹窗内的\"另存为(A)\"按钮; 8. 单击 侧边栏的桌面选项。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [1727, 764, 1854, 799], \"width\": 1920, \"height\": 1080}}",
"extra_data": {
"goal": "把飞书\"Boboma\"联系人最新发送的word文档下载后打开，接着将该文档另存在桌面，要求选中保存位置为桌面后使用一键命名功能自动修改文件名，文档另存完成后从任务栏中打开微信，并将刚刚另存在桌面的文件通过发送文件的功能发送给微信联系人fine。要求全程操作均使用鼠标完成。",
"task_id": 240,
"instruction": "单击 [文件名称右侧的一键命名按钮]",
"screen_size": [
1920,
1080
],
"scene": "跨应用协作（多端产品使用）->任务接力",
"device": "Windows",
"complexity": "高",
"platform": "跨应用",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202601091350_240.mp4",
"url": {
"": "screenshots/abilities/action_execution/1767950967334_0314779b_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为3840*2160)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n打开程序坞中的\"Safari浏览器\"在搜索栏中输入\"www.dianping.com\"通过回车键进入\"大众点评\"官网，搜索\"烤肉\"后按回车键，在\"地点\"板块中筛选\"行政区\"为\"西城区\"，将搜索结果按照\"人气\"排序，打开排序之后第一条结果的详情页面。\n你已经完成步骤: 1. 单击 程序坞中Safari浏览器; 2. 输入 www.dianping.com; 3. 按下 回车键; 4. 单击 大众点评网页内的搜索框; 5. 输入 烤肉; 6. 按下 回车键; 7. 单击 地点板块中\"行政区\"按钮; 8. 单击 行政区下\"西城区\"按钮; 9. 单击 商家列表上方导航栏中\"人气\"按钮。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": [\"click\", \"click\"], \"object\": [{\"type\": \"bbox\", \"bbox\": [1583, 1417, 1902, 1659], \"width\": 3840, \"height\": 2160}, {\"type\": \"bbox\", \"bbox\": [1932, 1404, 2502, 1498], \"width\": 3840, \"height\": 2160}]}",
"extra_data": {
"goal": "打开程序坞中的\"Safari浏览器\"在搜索栏中输入\"www.dianping.com\"通过回车键进入\"大众点评\"官网，搜索\"烤肉\"后按回车键，在\"地点\"板块中筛选\"行政区\"为\"西城区\"，将搜索结果按照\"人气\"排序，打开排序之后第一条结果的详情页面。",
"task_id": 667,
"instruction": "单击 [列表中第一个商家信息区域]",
"screen_size": [
3840,
2160
],
"scene": "交易与服务（购物）->旅行预订",
"device": "macOS",
"complexity": "高",
"platform": "Browser Use",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512231411_367.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766644064516_7b9a322c_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2338)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n从已打开的\"成都市美术馆\"小程序中，帮我预约一张\"漫长的调查\"展览的门票，我的身份信息已经录入过了可以直接选择，注意我只有下周一和下周二有空，且预约的时间越早越好。操作到\"选择观众\"结束即可。\n你已经完成步骤: 1. 单击 漫长的调查海报; 2. 滑动 在预约须知内容区域向上方滑动; 3. 单击 我已阅读，同意预约; 4. 单击 星期二2025-10-21选项卡; 5. 单击 10:00-12:00时段选项卡; 6. 滑动 在预约页面向上方滑动; 7. 单击 新增观众按钮; 8. 单击 可直接选择的观众信息。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [577, 2096, 997, 2214], \"width\": 1080, \"height\": 2338}}",
"extra_data": {
"goal": "从已打开的\"成都市美术馆\"小程序中，帮我预约一张\"漫长的调查\"展览的门票，我的身份信息已经录入过了可以直接选择，注意我只有下周一和下周二有空，且预约的时间越早越好。操作到\"选择观众\"结束即可。",
"task_id": 294,
"instruction": "单击 [确定按钮]",
"screen_size": [
1080,
2338
],
"scene": "异常（端内异常）->处理界面变化/元素失效",
"device": "iOS",
"complexity": "高",
"platform": "移动端app",
"intent": "间接意图",
"video": "screenshots/abilities/action_execution/202510211519_294.mp4",
"url": {
"": "screenshots/abilities/action_execution/294-9.png"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n打开名为\"演讲稿.docx\"文档，通过上方工具栏中的\"页面\"，将页面改为两栏文字。\n你已经完成步骤: 1. 双击 演讲稿的文档; 2. 单击 上方操作栏中的页面选项。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [699, 84, 739, 133], \"width\": 1920, \"height\": 1080}}",
"extra_data": {
"goal": "打开名为\"演讲稿.docx\"文档，通过上方工具栏中的\"页面\"，将页面改为两栏文字。",
"task_id": 940,
"instruction": "单击 [页面下的分栏按钮]",
"screen_size": [
1920,
1080
],
"scene": "生产力与创作（办公场景）->文档处理",
"device": "Windows",
"complexity": "中",
"platform": "App (桌面主)",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512291700_640.mp4",
"url": {
"": "screenshots/abilities/action_execution/1767081033690_fb7a2e61_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n网页版微博的热搜榜单加载不出来，现在打开WiFi开关，自动连接网络，使榜单加载成功。\n你已经完成步骤: 1. 单击 右下角的系统功能托盘; 2. 单击 WiFi图标按钮。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": [\"click\", \"click\"], \"object\": [{\"type\": \"bbox\", \"bbox\": [112, 70, 169, 119], \"width\": 1920, \"height\": 1080}, {\"type\": \"bbox\", \"bbox\": [1002, 733, 1143, 796], \"width\": 1920, \"height\": 1080}]}",
"extra_data": {
"goal": "网页版微博的热搜榜单加载不出来，现在打开WiFi开关，自动连接网络，使榜单加载成功。",
"task_id": 261,
"instruction": "单击 [刷新按钮]",
"screen_size": [
1920,
1080
],
"scene": "异常（端内异常）->处理加载/网络问题",
"device": "Windows",
"complexity": "低",
"platform": "桌面端网页",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202511121127_261.mp4",
"url": {
"": "screenshots/abilities/action_execution/261-3.png"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n复制当前网页顶部的页面链接，并将该链接贴入桌面上经济学文档中的B2单元格，要求通过上方操作功能区进行粘贴，然后在A2单元格输入\"通货膨胀\"，最后将文档保存。要求通过关闭按钮退出网页页面，除文本输入外其余操作全部用鼠标点击操作进行。\n你已经完成步骤: 1. 右击 从上往下数第一个搜索框; 2. 单击 弹出菜单中的copy选项; 3. 单击 网页右上角的叉号按钮; 4. 双击 名为经济学的Excel表格。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [137, 376, 419, 410], \"width\": 1920, \"height\": 1080}}",
"extra_data": {
"goal": "复制当前网页顶部的页面链接，并将该链接贴入桌面上经济学文档中的B2单元格，要求通过上方操作功能区进行粘贴，然后在A2单元格输入\"通货膨胀\"，最后将文档保存。要求通过关闭按钮退出网页页面，除文本输入外其余操作全部用鼠标点击操作进行。",
"task_id": 795,
"instruction": "单击 [表格内的B2格子]",
"screen_size": [
1920,
1080
],
"scene": "跨应用协作（多端产品使用->数据共享",
"device": "Windows",
"complexity": "高",
"platform": "App (多应用交互)",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512111606_495.mp4",
"url": {
"": "screenshots/abilities/action_execution/1765451210569_00be3dfe_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为3840*2160)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n打开桌面\"Work Docs\"文件夹的\"Q2\"文档，通过快捷键选中全文后先通过上方的工具栏调整字体格式为\"黑体\"，然后通过右击浮窗设置首行缩进2字符，再设置1.5倍行距，最后保存文档。\n你已经完成步骤: 1. 双击 桌面上的Work Docs文件夹; 2. 双击 文件夹中的Q2文档; 3. 按下 command + A; 4. 单击 文档编辑界面的字体下拉框; 5. 单击 弹出框中的黑体选项。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"rightClick\", \"object\": {\"type\": \"bbox\", \"bbox\": [1040, 531, 1774, 1763], \"width\": 3840, \"height\": 2160}}",
"extra_data": {
"goal": "打开桌面\"Work Docs\"文件夹的\"Q2\"文档，通过快捷键选中全文后先通过上方的工具栏调整字体格式为\"黑体\"，然后通过右击浮窗设置首行缩进2字符，再设置1.5倍行距，最后保存文档。",
"task_id": 450,
"instruction": "右击 [文档页面]",
"screen_size": [
3840,
2160
],
"scene": "生产力与创作（办公场景）->文档处理",
"device": "macOS",
"complexity": "高",
"platform": "App (桌面主)",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512161803_150.mp4",
"url": {
"": "screenshots/abilities/action_execution/1765942620951_0e141020_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n打开程序坞中的\"Microsoft Word\"，在\"模板\"中选中\"空白文档\"，然后通过\"创建\"按钮新建一个文档，文档第一行输入\"2025年度总结\"，通过回车键换行，在上方工具栏的插入功能中，打开左侧边栏中\"桌面\"的\"年度总结\"图片并插入。\n你已经完成步骤: 1. 单击 程序坞中的Microsoft Wordapp; 2. 单击 空白文档模版; 3. 单击 创建按钮; 4. 输入 2025年度总结; 5. 按下 回车键; 6. 单击 功能栏中的插入选项。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [262, 136, 333, 214], \"width\": 1728, \"height\": 1080}}",
"extra_data": {
"goal": "打开程序坞中的\"Microsoft Word\"，在\"模板\"中选中\"空白文档\"，然后通过\"创建\"按钮新建一个文档，文档第一行输入\"2025年度总结\"，通过回车键换行，在上方工具栏的插入功能中，打开左侧边栏中\"桌面\"的\"年度总结\"图片并插入。",
"task_id": 945,
"instruction": "单击 [\"图片\"下拉按钮]",
"screen_size": [
1728,
1080
],
"scene": "生产力与创作（办公场景）->文档处理",
"device": "macOS",
"complexity": "高",
"platform": "App (桌面主)",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202601041056_645.mp4",
"url": {
"": "screenshots/abilities/action_execution/1767684870870_94fe3d12_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1200)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n将WPS APP内的\"文档云同步\"功能打开。全部操作使用鼠标左键。\n你已经完成步骤: 1. 双击 WPS APP。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [1676, 78, 1726, 123], \"width\": 1920, \"height\": 1200}}",
"extra_data": {
"goal": "将WPS APP内的\"文档云同步\"功能打开。全部操作使用鼠标左键。",
"task_id": 215,
"instruction": "单击 [右上角的全局设置图标]",
"screen_size": [
1920,
1200
],
"scene": "系统与设置（操作设置）->操作系统设置",
"device": "Windows",
"complexity": "中",
"platform": "桌面端app",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202510211811_215.mp4",
"url": {
"": "screenshots/abilities/action_execution/1763965857632_8ccd082b_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为444*960)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n打开浏览器，输入搜索\"凤凰网\"并进入凤凰网官网，从上方导航栏进入科技板块，打开人工智能分类下第一条快讯。\n你已经完成步骤: 1. 单击 桌面浏览器app; 2. 单击 页面上方搜索框; 3. 输入 凤凰网。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": [\"click\", \"click\", \"click\"], \"object\": [{\"type\": \"bbox\", \"bbox\": [360, 56, 417, 89], \"width\": 444, \"height\": 960}, {\"type\": \"bbox\", \"bbox\": [22, 366, 396, 409], \"width\": 444, \"height\": 960}, {\"type\": \"bbox\", \"bbox\": [369, 824, 439, 883], \"width\": 444, \"height\": 960}]}",
"extra_data": {
"goal": "打开浏览器，输入搜索\"凤凰网\"并进入凤凰网官网，从上方导航栏进入科技板块，打开人工智能分类下第一条快讯。",
"task_id": 921,
"instruction": "单击 [搜索框右侧\"搜索\"按钮]",
"screen_size": [
444,
960
],
"scene": "信息获取（休闲娱乐）->新闻查询",
"device": "Android",
"complexity": "高",
"platform": "Browser Use",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512231342_12.23.4.107c.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766650013341_c8501c82_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n打开Microsoft Edge浏览器，在从上往下数第二个搜索框中输入\"缤客\"，进入\"Booking.com缤客-全球酒店预订网站\"官网首页，先输入目的地为\"Wuyi Square\"，后选择入住时间为\"2025年12月19日\"，最后选择退房时间为\"2025年12月21日\"，搜索后，滑动页面进入第一个评分10分的酒店。\n你已经完成步骤: 1. 双击 Microsoft Edge浏览器。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [486, 123, 1346, 169], \"width\": 1920, \"height\": 1080}}",
"extra_data": {
"goal": "打开Microsoft Edge浏览器，在从上往下数第二个搜索框中输入\"缤客\"，进入\"Booking.com缤客-全球酒店预订网站\"官网首页，先输入目的地为\"Wuyi Square\"，后选择入住时间为\"2025年12月19日\"，最后选择退房时间为\"2025年12月21日\"，搜索后，滑动页面进入第一个评分10分的酒店。",
"task_id": 660,
"instruction": "单击 [网页内从上到下第二个搜索框]",
"screen_size": [
1920,
1080
],
"scene": "交易与服务（购物）->旅行预订",
"device": "Windows",
"complexity": "高",
"platform": "Browser Use",
"intent": "模糊意图",
"video": "screenshots/abilities/action_execution/202512231411_360.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766633645193_e59eec70_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n在淘宝首页搜索\"无线蓝牙耳机\"，打开搜索到的第一个商品，进入客服对话，一键发送宝贝链接。在聊天框输入\"耳机待机时间多久\"并发送。\n你已经完成步骤: 1. 单击 淘宝首页搜索框; 2. 输入 无线蓝牙耳机; 3. 单击 搜索按钮; 4. 单击 第一个商品卡片; 5. 单击 客服按钮; 6. 单击 右侧的发送宝贝链接按钮; 7. 单击 聊天框的发送按钮; 8. 单击 聊天输入框。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"type\", \"object\": {\"type\": \"text\", \"text\": \"耳机待机时间多久\"}}",
"extra_data": {
"goal": "在淘宝首页搜索\"无线蓝牙耳机\"，打开搜索到的第一个商品，进入客服对话，一键发送宝贝链接。在聊天框输入\"耳机待机时间多久\"并发送。",
"task_id": 484,
"instruction": "输入 [耳机待机时间多久]",
"screen_size": [
1920,
1080
],
"scene": "交易与服务（购物）->在线购物",
"device": "Windows",
"complexity": "高",
"platform": "Web",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512161813_184.mp4",
"url": {
"": "screenshots/abilities/action_execution/1765957937967_85d836a5_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1440*3200)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n在阿里巴巴app中，打开关注店铺列表中的第一家店铺，在\"商品\"中选择第一件价格在\"150-200元\"的商品进行收藏。\n你已经完成步骤: 1. 单击 阿里巴巴app; 2. 单击 右下角\"我的\"; 3. 单击 页面上方\"关注店铺\"; 4. 单击 列表第一家店铺卡片; 5. 单击 178新人价的商品卡片。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [1026, 188, 1111, 272], \"width\": 1440, \"height\": 3200}}",
"extra_data": {
"goal": "在阿里巴巴app中，打开关注店铺列表中的第一家店铺，在\"商品\"中选择第一件价格在\"150-200元\"的商品进行收藏。",
"task_id": 124,
"instruction": "单击 [右上角星星符号]",
"screen_size": [
1440,
3200
],
"scene": "交易与服务（购物）->在线购物",
"device": "Android",
"complexity": "中",
"platform": "移动端app",
"intent": "间接意图",
"video": "screenshots/abilities/action_execution/202511051705_Screenrecorder-2025-11-05-16-40-59-861.mp4",
"url": {
"": "screenshots/abilities/action_execution/1763718589085_541171db_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2340)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n进入\"instagram\"App，打开列表第一条快拍。\n暂无无历史步骤。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [471, 0, 746, 1189], \"width\": 1080, \"height\": 2340}}",
"extra_data": {
"goal": "进入\"instagram\"App，打开列表第一条快拍。",
"task_id": 594,
"instruction": "单击 [\"instagram\"App]",
"screen_size": [
1080,
2340
],
"scene": "通信与社交\n（社交）->社交媒体互动",
"device": "iOS",
"complexity": "低",
"platform": "App",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202601041755_294.mp4",
"url": {
"": "screenshots/abilities/action_execution/1767673031584_34b14647_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为888*1920)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n在小红书APP搜索\"长款白色连衣裙单人拍照\"，筛选出图文笔记中点赞最多的一条，（要求按照先最多点赞后图文的顺序进行筛选）。将该笔记的首张图片保存本地相册，然后用淘宝识图这条裙子，选择列表中出现的第一个同款，并在有库存的码数中，将默认选项的商品选择最大码加入一件到购物车。\n你已经完成步骤: 1. 单击 小红书app; 2. 单击 搜索放大镜图标; 3. 输入 长款白色连衣裙单人拍照; 4. 单击 右下角键盘键搜索; 5. 单击 \"全部\"选项卡; 6. 单击 排序依据分类中的\"最多点赞\"; 7. 单击 笔记类型分类里的\"图文\"; 8. 单击 收起; 9. 单击 第一条图文笔记; 10. 长按 第一张图片; 11. 单击 弹出框内的\"保存\"; 12. 滑动 从屏幕底部向上滑动; 13. 单击 淘宝APP; 14. 单击 搜索框里的\"相机\"图标。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [4, 1697, 215, 1912], \"width\": 888, \"height\": 1920}}",
"extra_data": {
"goal": "在小红书APP搜索\"长款白色连衣裙单人拍照\"，筛选出图文笔记中点赞最多的一条，（要求按照先最多点赞后图文的顺序进行筛选）。将该笔记的首张图片保存本地相册，然后用淘宝识图这条裙子，选择列表中出现的第一个同款，并在有库存的码数中，将默认选项的商品选择最大码加入一件到购物车。",
"task_id": 244,
"instruction": "单击 [左下角第一张图片]",
"screen_size": [
888,
1920
],
"scene": "跨应用协作（多端产品使用）->多端购物支付",
"device": "iOS",
"complexity": "高",
"platform": "跨应用",
"intent": "间接意图",
"video": "screenshots/abilities/action_execution/202510271844_2011.mp4",
"url": {
"": "screenshots/abilities/action_execution/1763971859723_1d92a0fa_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n从Microsoft Edge浏览器首页出发，在写有\"搜索网页\"的搜索框中输入搜索\"可画\"，然后在搜索结果页的Canva可画网页框中打开\"PPT制作\"。\n你已经完成步骤: 1. 单击 页面中有文字信息\"搜索网页\"的搜索框。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"type\", \"object\": {\"type\": \"text\", \"text\": \"可画\"}}",
"extra_data": {
"goal": "从Microsoft Edge浏览器首页出发，在写有\"搜索网页\"的搜索框中输入搜索\"可画\"，然后在搜索结果页的Canva可画网页框中打开\"PPT制作\"。",
"task_id": 923,
"instruction": "输入 [可画]",
"screen_size": [
1920,
1080
],
"scene": "信息获取（休闲娱乐）->网站搜索导航",
"device": "Windows",
"complexity": "中",
"platform": "Browser Use",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512291704_623.mp4",
"url": {
"": "screenshots/abilities/action_execution/1767078428734_698a93cb_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为3456*7680)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n从桌面打开咸鱼APP，输入搜索\"富士mini12\"，打开列表中第一个带有卖家信用极好的商品，购买一个白色款。操作到选好颜色即可。\n你已经完成步骤: 1. 单击 咸鱼App; 2. 单击 上方搜索框; 3. 输入 富士mini12; 4. 单击 搜索按钮; 5. 单击 搜索结果中的第一个商品卡片。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [1381, 7207, 2355, 7592], \"width\": 3456, \"height\": 7680}}",
"extra_data": {
"goal": "从桌面打开咸鱼APP，输入搜索\"富士mini12\"，打开列表中第一个带有卖家信用极好的商品，购买一个白色款。操作到选好颜色即可。",
"task_id": 829,
"instruction": "单击 [右下角立即购买按钮]",
"screen_size": [
3456,
7680
],
"scene": "交易与服务（购物）->在线购物",
"device": "Android",
"complexity": "中",
"platform": "App",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512171712_529.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766387400077_418805d5_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为2560*1440)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n从桌面打开抖音从左侧边栏打开朋友频道。并给朋友的第一条视频评论：早上好。\n你已经完成步骤: 1. 双击 抖音App; 2. 单击 左侧功能栏\"朋友\"选项; 3. 单击 页面右侧评论按钮; 4. 单击 右下方评论输入框。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"type\", \"object\": {\"type\": \"text\", \"text\": \"早上好\"}}",
"extra_data": {
"goal": "从桌面打开抖音从左侧边栏打开朋友频道。并给朋友的第一条视频评论：早上好。",
"task_id": 810,
"instruction": "输入 [早上好]",
"screen_size": [
2560,
1440
],
"scene": "通信与社交（社交）->社交媒体互动",
"device": "Windows",
"complexity": "中",
"platform": "App",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512171507_20251217_150418.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766389180352_95b2635b_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n在已打开QQ音乐网页版中，通过主页搜索框搜索\"易烊千玺\"，筛选\"专辑\"，将最近发行的一张专辑添加到歌单中的\"播放队列\"。要求除了输入文本以外的其他全部操作使用鼠标完成。\n暂无无历史步骤。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [1049, 104, 1240, 143], \"width\": 1920, \"height\": 1080}}",
"extra_data": {
"goal": "在已打开QQ音乐网页版中，通过主页搜索框搜索\"易烊千玺\"，筛选\"专辑\"，将最近发行的一张专辑添加到歌单中的\"播放队列\"。要求除了输入文本以外的其他全部操作使用鼠标完成。",
"task_id": 597,
"instruction": "单击 [QQ 音乐网页的搜索输入框]",
"screen_size": [
1920,
1080
],
"scene": "通信与社交\n（社交）->社交媒体互动",
"device": "Windows",
"complexity": "中",
"platform": "Web",
"intent": "模糊意图",
"video": "screenshots/abilities/action_execution/202512231350_297.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766546715855_3728bc66_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为960*1280)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n从美团App\"团购\"界面开始，打开\"医疗医美\"板块，筛选高分店。\n你已经完成步骤: 1. 单击 分类栏中\"医疗医美\"按钮。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [767, 187, 949, 237], \"width\": 960, \"height\": 1280}}",
"extra_data": {
"goal": "从美团App\"团购\"界面开始，打开\"医疗医美\"板块，筛选高分店。",
"task_id": 539,
"instruction": "单击 [\"高分店\"按钮]",
"screen_size": [
960,
1280
],
"scene": "交易与服务（购物）->生活服务（美团定向任务）-团购",
"device": "iPadOS",
"complexity": "低",
"platform": "APP",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512181556_239.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766369410054_de90c6d1_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n从微信APP首页面开始，将微信列表第一位置顶好友发送的最新一张图片通过鼠标复制粘贴到桌面\"瑞幸\"文件夹里，然后将该图片通过右键重命名为\"第一杯\"，并通过enter键保存。\n你已经完成步骤: 1. 单击 微信聊天列表的瑞幸; 2. 右击 聊天对话框中好友最新发送过来的图片; 3. 单击 弹出框中的复制按钮。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"doubleClick\", \"object\": {\"type\": \"bbox\", \"bbox\": [217, 424, 286, 512], \"width\": 1728, \"height\": 1080}}",
"extra_data": {
"goal": "从微信APP首页面开始，将微信列表第一位置顶好友发送的最新一张图片通过鼠标复制粘贴到桌面\"瑞幸\"文件夹里，然后将该图片通过右键重命名为\"第一杯\"，并通过enter键保存。",
"task_id": 699,
"instruction": "双击 [桌面上的瑞幸文件夹]",
"screen_size": [
1728,
1080
],
"scene": "跨应用协作（多端产品使用）->任务接力",
"device": "Windows",
"complexity": "高",
"platform": "App (多应用交互)",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512181510_399.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766119933475_189489e9_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n在程序坞中打开Edge浏览器，在最上方网址输入栏输入\"cmbchina.com\"后通过回车键进入中国招商银行-一网通官网首页，在官网首页的\"实时行情\"板块内找到并打开\"外汇实时汇率\"，然后查询港币的历史汇率走势图并在页面中完整显示，保持默认查询时间即可。\n你已经完成步骤: 1. 单击 程序坞中的Edge浏览器; 2. 输入 cmbchina.com; 3. 按下 enter键; 4. 滑动 在招商银行展示界面向上滑动; 5. 悬停 实时行情板块; 6. 单击 外汇实时汇率选项。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"scroll\", \"object\": {\"type\": \"text\", \"text\": \"up\", \"bbox\": [0, 213, 1726, 999], \"width\": 1728, \"height\": 1080}}",
"extra_data": {
"goal": "在程序坞中打开Edge浏览器，在最上方网址输入栏输入\"cmbchina.com\"后通过回车键进入中国招商银行-一网通官网首页，在官网首页的\"实时行情\"板块内找到并打开\"外汇实时汇率\"，然后查询港币的历史汇率走势图并在页面中完整显示，保持默认查询时间即可。",
"task_id": 208,
"instruction": "滑动 [在招商银行展示界面向上滑动]",
"screen_size": [
1728,
1080
],
"scene": "交易与服务（购物）->在线银行/支付",
"device": "macOS",
"complexity": "高",
"platform": "桌面端网页",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202511061314_208.mp4",
"url": {
"": "screenshots/abilities/action_execution/1763621685315_50366377_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n打开Microsoft Edge浏览器，在从上往下数第二个搜索框中输入\"缤客\"，进入\"Booking.com缤客-全球酒店预订网站\"官网首页，先输入目的地为\"Wuyi Square\"，后选择入住时间为\"2025年12月19日\"，最后选择退房时间为\"2025年12月21日\"，搜索后，滑动页面进入第一个评分10分的酒店。\n你已经完成步骤: 1. 双击 Microsoft Edge浏览器; 2. 单击 网页内从上到下第二个搜索框; 3. 输入 缤客; 4. 单击 搜索按钮; 5. 单击 第一条结果; 6. 单击 目的地选择框; 7. 输入 Wuyi Square。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [789, 348, 1091, 405], \"width\": 1920, \"height\": 1080}}",
"extra_data": {
"goal": "打开Microsoft Edge浏览器，在从上往下数第二个搜索框中输入\"缤客\"，进入\"Booking.com缤客-全球酒店预订网站\"官网首页，先输入目的地为\"Wuyi Square\"，后选择入住时间为\"2025年12月19日\"，最后选择退房时间为\"2025年12月21日\"，搜索后，滑动页面进入第一个评分10分的酒店。",
"task_id": 660,
"instruction": "单击 [日期选择框]",
"screen_size": [
1920,
1080
],
"scene": "交易与服务（购物）->旅行预订",
"device": "Windows",
"complexity": "高",
"platform": "Browser Use",
"intent": "模糊意图",
"video": "screenshots/abilities/action_execution/202512231411_360.mp4",
"url": {
"": "screenshots/abilities/action_execution/1767081504186_e0e01069_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2346)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n从桌面的美团app开始，进入打车模块，先输入设置\"西安钟楼饭店\"为起点，再输入设置\"大唐不夜城\"为终点，保留默认车型的同时，再加选上所有豪华型网约车后，随后立即发布订单。操作到预付车费页面即可。要求全程不使用滑动操作。\n你已经完成步骤: 1. 单击 美团应用图标; 2. 单击 \"打车\"功能按钮; 3. 单击 上车地点选择按钮; 4. 输入 西安钟楼饭店; 5. 单击 \"西安钟楼饭店\" 条目。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [63, 1109, 1018, 1265], \"width\": 1080, \"height\": 2346}}",
"extra_data": {
"goal": "从桌面的美团app开始，进入打车模块，先输入设置\"西安钟楼饭店\"为起点，再输入设置\"大唐不夜城\"为终点，保留默认车型的同时，再加选上所有豪华型网约车后，随后立即发布订单。操作到预付车费页面即可。要求全程不使用滑动操作。",
"task_id": 867,
"instruction": "单击 [\"输入你的目的地\"输入框]",
"screen_size": [
1080,
2346
],
"scene": "交易与服务（购物）->生活服务（美团定向任务）-打车",
"device": "iOS",
"complexity": "高",
"platform": "App",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512181600_567.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766400999237_e75a6195_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1152*720)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n从招商银行pc版首页开始，进入账户总览，在尾号为4697的一卡通的交易记录中，先选择近三个月的交易数据，然后再使用高级查询功能筛选出该时间范围内支出金额为200-500元的交易记录。\n你已经完成步骤: 1. 单击 左侧导航栏中的账户总览; 2. 单击 全部账户下的交易查询按钮; 3. 单击 \"最近三个月\"选项; 4. 单击 最右侧的高级查询按钮; 5. 单击 支出范围右侧的第一个输入框; 6. 输入 200; 7. 单击 支出范围右侧的第二个输入框。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"type\", \"object\": {\"type\": \"text\", \"text\": \"500\"}}",
"extra_data": {
"goal": "从招商银行pc版首页开始，进入账户总览，在尾号为4697的一卡通的交易记录中，先选择近三个月的交易数据，然后再使用高级查询功能筛选出该时间范围内支出金额为200-500元的交易记录。",
"task_id": 770,
"instruction": "输入 [500]",
"screen_size": [
1152,
720
],
"scene": "交易与服务（购物）->在线银行/支付",
"device": "Windows",
"complexity": "高",
"platform": "App",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512171832_12.17.1.c4.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766110913016_b51bcfe3_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n把微信名为\"L.L.L主理人\"联系人最新发送的一条消息内容复制粘贴进桌面上名为\"工作待办事项记录\"的word文档中，然后点击保存文档内容。要求用右键单击复制，快捷键进行粘贴。\n你已经完成步骤: 1. 右击 L.L.L主理人发送的消息内容; 2. 单击 复制按钮; 3. 双击 工作待办事项记录.docx。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"press\", \"object\": {\"type\": \"text\", \"text\": \"command,v\"}}",
"extra_data": {
"goal": "把微信名为\"L.L.L主理人\"联系人最新发送的一条消息内容复制粘贴进桌面上名为\"工作待办事项记录\"的word文档中，然后点击保存文档内容。要求用右键单击复制，快捷键进行粘贴。",
"task_id": 235,
"instruction": "按下 [command键和V键]",
"screen_size": [
1728,
1080
],
"scene": "跨应用协作（多端产品使用）->数据共享",
"device": "macOS",
"complexity": "中",
"platform": "跨应用",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202511061611_235.mp4",
"url": {
"": "screenshots/abilities/action_execution/1763628330431_c91a1d0d_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为886*1920)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n从抖音app正在播放的短视频页面开始，在评论区里艾特推荐用户列表里的第一位用户。\n你已经完成步骤: 1. 单击 右侧的评论符号; 2. 单击 右下角的@符号。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [27, 533, 190, 706], \"width\": 886, \"height\": 1920}}",
"extra_data": {
"goal": "从抖音app正在播放的短视频页面开始，在评论区里艾特推荐用户列表里的第一位用户。",
"task_id": 99,
"instruction": "单击 [弹窗中的第一个用户]",
"screen_size": [
886,
1920
],
"scene": "通信与社交->社交媒体互动",
"device": "iOS",
"complexity": "中",
"platform": "移动端app",
"intent": "间接意图",
"video": "screenshots/abilities/action_execution/202511051551_99.mp4",
"url": {
"": "screenshots/abilities/action_execution/1763703580908_017e5e55_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为884*1920)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n在已打开的Alibaba.comAPP首页顶部搜索框搜索\"保温杯\"，筛选销量由高到低，进入列表第一个商品页面。\n你已经完成步骤: 1. 单击 搜索框。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"type\", \"object\": {\"type\": \"text\", \"text\": \"保温杯\"}}",
"extra_data": {
"goal": "在已打开的Alibaba.comAPP首页顶部搜索框搜索\"保温杯\"，筛选销量由高到低，进入列表第一个商品页面。",
"task_id": 468,
"instruction": "输入 [保温杯]",
"screen_size": [
884,
1920
],
"scene": "交易与服务（购物）->在线购物",
"device": "Android",
"complexity": "中",
"platform": "APP",
"intent": "模糊意图",
"video": "screenshots/abilities/action_execution/202512161807_168.mp4",
"url": {
"": "screenshots/abilities/action_execution/1768288479128_1e19376f_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2338)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n打开美团app的\"丽人美发\"频道，进入\"美甲\"板块，筛选出排序为\"好评优先\"的\"神券商家\"列表，进入筛选后列表中第一个商家的在线咨询页面，并询问：\"是否能预约今天19点的美甲\"。发出询问即可。\n你已经完成步骤: 1. 单击 美团app; 2. 单击 丽人美发按钮; 3. 单击 上方分类栏的美甲按钮; 4. 单击 智能排序按钮; 5. 单击 弹窗内的好评优先按钮; 6. 单击 神券商家按钮; 7. 单击 第一家商家卡片。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [297, 2143, 425, 2246], \"width\": 1080, \"height\": 2338}}",
"extra_data": {
"goal": "打开美团app的\"丽人美发\"频道，进入\"美甲\"板块，筛选出排序为\"好评优先\"的\"神券商家\"列表，进入筛选后列表中第一个商家的在线咨询页面，并询问：\"是否能预约今天19点的美甲\"。发出询问即可。",
"task_id": 130,
"instruction": "单击 [在线咨询按钮]",
"screen_size": [
1080,
2338
],
"scene": "交易与服务（购物）->小象超市、外卖、拼好饭等",
"device": "Android",
"complexity": "高",
"platform": "移动端app",
"intent": "间接意图",
"video": "screenshots/abilities/action_execution/202511041456_424.mp4",
"url": {
"": "screenshots/abilities/action_execution/1763705466274_bbf30889_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为2560*1440)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n从支付宝网页版首页开始，通过上方导航栏打开交易记录，筛选查看2025.6.18-2025.12.18内单笔最大的购物退款的账单详情。要求先筛选时间（通过点击月份文本进行操作），再筛选分类，最后筛选状态。\n你已经完成步骤: 1. 单击 右上方\"交易记录\"按钮; 2. 单击 \"2025.11.18\"时间选择框; 3. 单击 弹框内\"十一月\"文字区域; 4. 单击 弹框中\"六月\"按钮; 5. 单击 弹框中\"18\"按钮; 6. 单击 分类栏中\"购物\"按钮; 7. 单击 状态栏中\"退款\"按钮。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [1685, 752, 1774, 778], \"width\": 2560, \"height\": 1440}}",
"extra_data": {
"goal": "从支付宝网页版首页开始，通过上方导航栏打开交易记录，筛选查看2025.6.18-2025.12.18内单笔最大的购物退款的账单详情。要求先筛选时间（通过点击月份文本进行操作），再筛选分类，最后筛选状态。",
"task_id": 896,
"instruction": "单击 [列表从上到下第3条账单信息右侧对应的\"详情\"按钮]",
"screen_size": [
2560,
1440
],
"scene": "交易与服务（购物）->在线银行/支付",
"device": "Windows",
"complexity": "高",
"platform": "Web",
"intent": "模糊意图",
"video": "screenshots/abilities/action_execution/202512181635_20251218_163403.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766478473032_b79ffb4d_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n在淘宝首页搜索\"暖手宝\"将搜索结果列表的第一个商品（默认规格）加入购物车。\n暂无无历史步骤。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [553, 256, 1181, 314], \"width\": 1920, \"height\": 1080}}",
"extra_data": {
"goal": "在淘宝首页搜索\"暖手宝\"将搜索结果列表的第一个商品（默认规格）加入购物车。",
"task_id": 456,
"instruction": "单击 [淘宝首页的搜索框]",
"screen_size": [
1920,
1080
],
"scene": "交易与服务（购物）->在线购物",
"device": "Windows",
"complexity": "中",
"platform": "Web",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512161757_156.mp4",
"url": {
"": "screenshots/abilities/action_execution/1765949952633_7c1d6f22_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n淘宝App页面无法正常加载，打开wifi开关，自动连接网络，并让当前所在的淘宝页面正常加载出来。\n你已经完成步骤: 1. 单击 windows任务栏中的网络、音量和电源图标组合区域; 2. 单击 wifi图标。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": [\"click\", \"click\"], \"object\": [{\"type\": \"bbox\", \"bbox\": [765, 454, 1197, 497], \"width\": 1920, \"height\": 1080}, {\"type\": \"bbox\", \"bbox\": [116, 74, 154, 109], \"width\": 1920, \"height\": 1080}]}",
"extra_data": {
"goal": "淘宝App页面无法正常加载，打开wifi开关，自动连接网络，并让当前所在的淘宝页面正常加载出来。",
"task_id": 270,
"instruction": "单击 [重试选项]",
"screen_size": [
1920,
1080
],
"scene": "异常（端内异常）->处理加载/网络问题",
"device": "Windows",
"complexity": "低",
"platform": "桌面端app",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202510311633_270.mp4",
"url": {
"": "screenshots/abilities/action_execution/270-3.png"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2400)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n使用京东app的秒送，在咖啡奶茶板块，筛选并收藏能满足\"30分钟送达\"的\"销量最高\"的一家商家店铺。要求筛选顺序为先送达时间，后销量。\n你已经完成步骤: 1. 单击 京东app; 2. 单击 顶部的\"秒送\"按钮; 3. 单击 分类栏的\"咖啡奶茶\"按钮; 4. 单击 中间筛选栏的\"30分钟送达\"按钮; 5. 单击 左上角的\"综合排序\"按钮; 6. 单击 \"销量最高\"按钮。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [30, 402, 1051, 653], \"width\": 1080, \"height\": 2400}}",
"extra_data": {
"goal": "使用京东app的秒送，在咖啡奶茶板块，筛选并收藏能满足\"30分钟送达\"的\"销量最高\"的一家商家店铺。要求筛选顺序为先送达时间，后销量。",
"task_id": 125,
"instruction": "单击 [商家列表中第一个商家]",
"screen_size": [
1080,
2400
],
"scene": "交易与服务（购物）->在线购物",
"device": "Android",
"complexity": "高",
"platform": "移动端app",
"intent": "间接意图",
"video": "screenshots/abilities/action_execution/202511181304_125.mp4",
"url": {
"": "screenshots/abilities/action_execution/125-7.png"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为432*960)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n打开麦当劳app进入\"我的\"页面，在\"设置\"中将\"语言\"切换为\"中文\"。\n你已经完成步骤: 1. 单击 桌面麦当劳app; 2. 单击 底部\"Me\"按钮。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"scroll\", \"object\": {\"type\": \"text\", \"text\": \"up\", \"bbox\": [0, 136, 431, 884], \"width\": 432, \"height\": 960}}",
"extra_data": {
"goal": "打开麦当劳app进入\"我的\"页面，在\"设置\"中将\"语言\"切换为\"中文\"。",
"task_id": 746,
"instruction": "滑动 [在当前页面用户名下方区域向上滑动]",
"screen_size": [
432,
960
],
"scene": "系统与设置（操作设置）->应用设置与管理",
"device": "Android",
"complexity": "中",
"platform": "App (自身设置)",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512161808_446.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766131652681_924dfa3a_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n打开桌面上的\"剪映专业版\"App,选择进入右上角的\"全局设置\"中，在剪辑页面将默认帧率设置为30帧每秒并保存。\n你已经完成步骤: 1. 双击 \"剪映专业版\"App。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [1414, 150, 1440, 175], \"width\": 1920, \"height\": 1080}}",
"extra_data": {
"goal": "打开桌面上的\"剪映专业版\"App,选择进入右上角的\"全局设置\"中，在剪辑页面将默认帧率设置为30帧每秒并保存。",
"task_id": 965,
"instruction": "单击 [右上角设置图标]",
"screen_size": [
1920,
1080
],
"scene": "系统与设置（操作设置）->应用设置与管理",
"device": "Windows",
"complexity": "中",
"platform": "App (自身设置)",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512291705_665.mp4",
"url": {
"": "screenshots/abilities/action_execution/1767088526053_f935e5b8_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为432*960)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n在美团app团购频道内筛选出距离热门商圈\"钟楼/鼓楼\"最近的团购商品，并收藏筛选后列表中第一个娱乐类商品团购。要求先筛选商圈再筛选距离。\n你已经完成步骤: 1. 单击 美团app; 2. 单击 分类栏中\"团购\"按钮; 3. 单击 \"附近\"下拉符按钮; 4. 单击 弹框中\"热门商圈\"标签。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [199, 289, 432, 333], \"width\": 432, \"height\": 960}}",
"extra_data": {
"goal": "在美团app团购频道内筛选出距离热门商圈\"钟楼/鼓楼\"最近的团购商品，并收藏筛选后列表中第一个娱乐类商品团购。要求先筛选商圈再筛选距离。",
"task_id": 859,
"instruction": "单击 [\"钟楼/鼓楼\"标签]",
"screen_size": [
432,
960
],
"scene": "交易与服务（购物）->生活服务（美团定向任务）-团购",
"device": "Android",
"complexity": "高",
"platform": "App",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512181026_559.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766398091736_a4df1978_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n从桌面打开名为\"悬秤\"的word文档，在上方操作栏中先将文档内容设置为多页显示，再将护眼模式打开，接着将纸张方向改为横向后，将分栏设置为三栏。最后打印。要求操作到打印设置页面即可，且全程操作均使用鼠标左键完成。\n你已经完成步骤: 1. 双击 名为\"悬秤\"的word文档; 2. 单击 导航栏的\"视图\"选项; 3. 单击 \"多页\"选项; 4. 单击 护眼模式选项; 5. 单击 功能栏的\"页面\"选项; 6. 单击 纸张方向选项; 7. 单击 弹窗内的\"横向\"选项; 8. 单击 分栏选项功能。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [679, 332, 845, 376], \"width\": 1920, \"height\": 1080}}",
"extra_data": {
"goal": "从桌面打开名为\"悬秤\"的word文档，在上方操作栏中先将文档内容设置为多页显示，再将护眼模式打开，接着将纸张方向改为横向后，将分栏设置为三栏。最后打印。要求操作到打印设置页面即可，且全程操作均使用鼠标左键完成。",
"task_id": 944,
"instruction": "单击 [\"三栏(T)\"选项]",
"screen_size": [
1920,
1080
],
"scene": "生产力与创作（办公场景）->文档处理",
"device": "Windows",
"complexity": "高",
"platform": "App (桌面主)",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202601041617_644.mp4",
"url": {
"": "screenshots/abilities/action_execution/1767666462814_8ede29cb_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n通过桌面快捷方式进入谷歌浏览器，在浏览器首页的搜索框输入网址\"ent.163.com\"，用enter键进入网易娱乐网页。\n暂无无历史步骤。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"doubleClick\", \"object\": {\"type\": \"bbox\", \"bbox\": [217, 401, 284, 517], \"width\": 1728, \"height\": 1080}}",
"extra_data": {
"goal": "通过桌面快捷方式进入谷歌浏览器，在浏览器首页的搜索框输入网址\"ent.163.com\"，用enter键进入网易娱乐网页。",
"task_id": 13,
"instruction": "双击 [桌面上方的Google Chrome浏览器]",
"screen_size": [
1728,
1080
],
"scene": "信息获取（休闲娱乐）->新闻查询",
"device": "Windows",
"complexity": "低",
"platform": "桌面端网页",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202511111425_13%203.mp4",
"url": {
"": "screenshots/abilities/action_execution/1763630778785_43d6e87f_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为3840*2160)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n打开桌面名为\"001表格\"文件夹中的\"库存清单\"表格，插入数据透视表，分析数据区域输入\"A1:P12\"通过回车键完成操作，数据透析表插入位置保持默认位置，然后通过拖拽的方式将\"物品名称\"添加进\"Rows\"区域，再通过拖拽的方式将\"物品名称\"添加进\"Values\"区域，最后通过拖拽的方式将\"存放位置\"添加进\"Columns\"区域。\n你已经完成步骤: 1. 双击 桌面\"001表格\"文件夹; 2. 双击 \"库存清单\"表格文件; 3. 单击 导航栏中\"Insert\"按钮; 4. 单击 左上方\"PivotTable\"按钮; 5. 输入 A1:P12; 6. 按下 回车键; 7. 拖拽 选中右侧FIELD NAME框中\"物品名称\"内容移动至下方\"Rows\"区域内; 8. 拖拽 选中右侧FIELD NAME框中\"物品名称\"内容移动至下方\"Values\"区域内。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"scroll\", \"object\": {\"type\": \"text\", \"text\": \"up\", \"bbox\": [3286, 874, 3832, 1079], \"width\": 3840, \"height\": 2160}}",
"extra_data": {
"goal": "打开桌面名为\"001表格\"文件夹中的\"库存清单\"表格，插入数据透视表，分析数据区域输入\"A1:P12\"通过回车键完成操作，数据透析表插入位置保持默认位置，然后通过拖拽的方式将\"物品名称\"添加进\"Rows\"区域，再通过拖拽的方式将\"物品名称\"添加进\"Values\"区域，最后通过拖拽的方式将\"存放位置\"添加进\"Columns\"区域。",
"task_id": 570,
"instruction": "滑动 [在FIELD NAME下方选择框区域内向上方滑动]",
"screen_size": [
3840,
2160
],
"scene": "生产力与创作\n（办公场景）->表格处理",
"device": "macOS",
"complexity": "高",
"platform": "App（桌面主）",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512231349_270.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766542192334_af7abd1e_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1440*3200)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n进入美团APP的看病买药频道，打开24小时服务的肠胃消化板块，在专治呕吐的药品列表中，将出现的第一个进口药品加入购物车，商家就选择默认的在售商家。\n你已经完成步骤: 1. 单击 分类栏中\"看病买药\"按钮; 2. 单击 24h服务中\"肠胃消化\"按钮; 3. 单击 左侧\"呕吐\"按钮。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [324, 727, 1403, 1058], \"width\": 1440, \"height\": 3200}}",
"extra_data": {
"goal": "进入美团APP的看病买药频道，打开24小时服务的肠胃消化板块，在专治呕吐的药品列表中，将出现的第一个进口药品加入购物车，商家就选择默认的在售商家。",
"task_id": 883,
"instruction": "单击 [列表中第一件商品信息内容]",
"screen_size": [
1440,
3200
],
"scene": "交易与服务（购物）->生活服务（美团定向任务）-看病买药",
"device": "Android",
"complexity": "中",
"platform": "App",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512181358_Screenrecorder-2025-12-18-13-56-37-660.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766474582178_f9b48ea9_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为888*1920)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n在拼多多app的\"百亿补贴\"频道搜索关键字\"发膜\"，然后筛选出商品发货地是当前所在省份的发膜商品。\n你已经完成步骤: 1. 单击 拼多多app; 2. 单击 百亿补贴 大牌正品; 3. 单击 搜索框; 4. 输入 发膜。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": [\"click\", \"click\", \"click\"], \"object\": [{\"type\": \"bbox\", \"bbox\": [719, 1536, 880, 1751], \"width\": 888, \"height\": 1920}, {\"type\": \"bbox\", \"bbox\": [703, 101, 858, 178], \"width\": 888, \"height\": 1920}, {\"type\": \"bbox\", \"bbox\": [23, 209, 880, 284], \"width\": 888, \"height\": 1920}]}",
"extra_data": {
"goal": "在拼多多app的\"百亿补贴\"频道搜索关键字\"发膜\"，然后筛选出商品发货地是当前所在省份的发膜商品。",
"task_id": 116,
"instruction": "单击 [虚拟键盘的搜索按钮]",
"screen_size": [
888,
1920
],
"scene": "交易与服务（购物）->在线购物",
"device": "iOS",
"complexity": "中",
"platform": "移动端app",
"intent": "间接意图",
"video": "screenshots/abilities/action_execution/202511051653_116.mp4",
"url": {
"": "screenshots/abilities/action_execution/1763950840052_5a4dcbd2_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为2560*1440)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n从桌面上的PowerPoint应用中新建一个PPT文档，并在该文档制作一个自我介绍PPT的首页，标题文字内容为：\"自我介绍\"，副标题内容为：\"姓名：黎明\"，然后通过页面顶部的工具栏，将PPT首页背景设置为标准色蓝色的纯色填充。要求除了文本内容用键盘打字外，其余操作均使用鼠标。\n你已经完成步骤: 1. 双击 PowerPoint app; 2. 单击 新建下方的\"空白演示文稿\"; 3. 单击 \"单击此处添加标题\"文本框; 4. 输入 自我介绍; 5. 单击 \"单击此处添加副标题\"文本框; 6. 输入 姓名：黎明。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [145, 44, 189, 76], \"width\": 2560, \"height\": 1440}}",
"extra_data": {
"goal": "从桌面上的PowerPoint应用中新建一个PPT文档，并在该文档制作一个自我介绍PPT的首页，标题文字内容为：\"自我介绍\"，副标题内容为：\"姓名：黎明\"，然后通过页面顶部的工具栏，将PPT首页背景设置为标准色蓝色的纯色填充。要求除了文本内容用键盘打字外，其余操作均使用鼠标。",
"task_id": 61,
"instruction": "单击 [工具栏中的\"设计\"按钮]",
"screen_size": [
2560,
1440
],
"scene": "生产力与创作（办公场景）->PPT制作",
"device": "Windows",
"complexity": "高",
"platform": "桌面端app",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202511051545_20251105_154343.mp4",
"url": {
"": "screenshots/abilities/action_execution/1763723939839_774d3af0_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\nedge浏览器中打开的是一个图片素材网站，现在滑动页面将第一个出现带有鸟类的图片下载下来，以最大的格式下载至默认位置（\"下载\"文件夹）即可；下载完成后从任务栏进入已打开的PowerPoint，选中最后一张幻灯片并通过上方的工具栏将刚下载的图片插入到其中。\n你已经完成步骤: 1. 滑动 向上滑动浏览器的整个界面; 2. 单击 页面中有猫头鹰的图片; 3. 单击 图片页面右侧的 \"Download\"按钮; 4. 单击 图片下载选项中的\"3056×2037\"的选项; 5. 单击 弹出框中的\"Download\"按钮; 6. 等待 3秒; 7. 单击 程序坞中的Powerpoint; 8. 单击 右侧视图区的第4张幻灯片; 9. 单击 操作功能区的Pictures按钮; 10. 单击 下拉菜单中的\"This Device...\" 选项; 11. 单击 名为\"owl-9294302(1)\"的图片。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [242, 234, 850, 267], \"width\": 1728, \"height\": 1080}}",
"extra_data": {
"goal": "edge浏览器中打开的是一个图片素材网站，现在滑动页面将第一个出现带有鸟类的图片下载下来，以最大的格式下载至默认位置（\"下载\"文件夹）即可；下载完成后从任务栏进入已打开的PowerPoint，选中最后一张幻灯片并通过上方的工具栏将刚下载的图片插入到其中。",
"task_id": 791,
"instruction": "单击 [弹窗中的Insert按钮]",
"screen_size": [
1728,
1080
],
"scene": "跨应用协作（多端产品使用->数据共享",
"device": "Windows",
"complexity": "高",
"platform": "App (多应用交互)",
"intent": "模糊意图",
"video": "screenshots/abilities/action_execution/202512111432_491.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766030104910_83a78549_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为720*1560)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n在\"抖音\"APP中，进入搜索界面，打开抖音热榜下排行第一的内容，筛选最新发布，进入并播放第一条内容。\n你已经完成步骤: 1. 单击 抖音首页右上角的搜索图标。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [165, 804, 284, 838], \"width\": 720, \"height\": 1560}}",
"extra_data": {
"goal": "在\"抖音\"APP中，进入搜索界面，打开抖音热榜下排行第一的内容，筛选最新发布，进入并播放第一条内容。",
"task_id": 413,
"instruction": "单击 [虚拟键盘上方的抖音热榜]",
"screen_size": [
720,
1560
],
"scene": "信息获取（休闲娱乐）->媒体娱乐",
"device": "iOS",
"complexity": "中",
"platform": "App端内",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512161743_113.mp4",
"url": {
"": "screenshots/abilities/action_execution/1765937679128_248f1d5b_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为2560*1440)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n从Edge浏览器首页进入京东热卖，在京东页面搜索\"保温杯\"，打开商品列表（非热卖商品列表）中第一个\"今天买明天到\"的商品页面，并下单一个容量最小的黑色保温杯，购买的地址在订单界面选择有公司标识的。操作到收银台界面即可。\n你已经完成步骤: 1. 单击 首页推荐界面中的\"京东热卖\"选项。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [899, 148, 1617, 187], \"width\": 2560, \"height\": 1440}}",
"extra_data": {
"goal": "从Edge浏览器首页进入京东热卖，在京东页面搜索\"保温杯\"，打开商品列表（非热卖商品列表）中第一个\"今天买明天到\"的商品页面，并下单一个容量最小的黑色保温杯，购买的地址在订单界面选择有公司标识的。操作到收银台界面即可。",
"task_id": 833,
"instruction": "单击 [京东首页搜索框]",
"screen_size": [
2560,
1440
],
"scene": "交易与服务（购物）->在线购物",
"device": "Windows",
"complexity": "高",
"platform": "Web",
"intent": "模糊意图",
"video": "screenshots/abilities/action_execution/202512191403_14000.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766388674762_da283154_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2336)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n打开微博发现页面的第一个热搜话题。\n暂无无历史步骤。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [479, 2116, 597, 2233], \"width\": 1080, \"height\": 2336}}",
"extra_data": {
"goal": "打开微博发现页面的第一个热搜话题。",
"task_id": 311,
"instruction": "单击 [下方发现按钮]",
"screen_size": [
1080,
2336
],
"scene": "信息获取（休闲娱乐）->媒体娱乐",
"device": "iOS",
"complexity": "低",
"platform": "App端内",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/13927328549_1764230163651_105fdfa7_11+微博热搜.mp4",
"url": {
"": "screenshots/abilities/action_execution/1764311185545_4ead1be8_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2336)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n从Safari浏览器搜索\"今日金价\"。\n你已经完成步骤: 1. 单击 Safari浏览器app; 2. 单击 搜索框。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"type\", \"object\": {\"type\": \"text\", \"text\": \"今日金价\"}}",
"extra_data": {
"goal": "从Safari浏览器搜索\"今日金价\"。",
"task_id": 322,
"instruction": "输入 [今日金价]",
"screen_size": [
1080,
2336
],
"scene": "信息获取（休闲娱乐）->新闻查询",
"device": "iOS",
"complexity": "低",
"platform": "Browser Use, App端内",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/13927328549_1764063283503_baf67c49_23 今日金价.mp4",
"url": {
"": "screenshots/abilities/action_execution/1764566296907_70ace32a_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1620*2160)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n进入小红书app中热点排名最高的话题。\n暂无无历史步骤。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [267, 1618, 417, 1798], \"width\": 1620, \"height\": 2160}}",
"extra_data": {
"goal": "进入小红书app中热点排名最高的话题。",
"task_id": 20,
"instruction": "单击 [小红书app]",
"screen_size": [
1620,
2160
],
"scene": "信息获取（休闲娱乐）->新闻查询",
"device": "iPadOS",
"complexity": "低",
"platform": "移动端app",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202511101310_20.mp4",
"url": {
"": "screenshots/abilities/action_execution/1763631440443_14af63cf_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为3840*2160)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n打开桌面上的\"Work\"文件夹，通过右键唤出菜单栏的方式将名为\"归档\"的压缩包解压到当前文件夹内，再打开解压之后的\"归档\"文件夹中的\"Meeting\"ppt文件，通过PPT页面底部的功能区将幻灯片以\"阅读视图\"方式进行放映，一页一页播放幻灯片结束后退出放映。\n你已经完成步骤: 1. 双击 桌面上的\"Work\"文件夹; 2. 右击 名为\"归档\"的压缩包; 3. 单击 弹窗中的\"Open\"按钮; 4. 双击 解压后的\"归档\"文件夹; 5. 双击 \"Meeting\"ppt文件; 6. 单击 PPT 演示界面底部的 \"阅读视图\"切换按钮; 7. 单击 阅读视图下的PPT页面区域; 8. 单击 阅读视图下的PPT页面区域; 9. 单击 阅读视图下的PPT页面区域。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [89, 375, 3084, 2001], \"width\": 3840, \"height\": 2160}}",
"extra_data": {
"goal": "打开桌面上的\"Work\"文件夹，通过右键唤出菜单栏的方式将名为\"归档\"的压缩包解压到当前文件夹内，再打开解压之后的\"归档\"文件夹中的\"Meeting\"ppt文件，通过PPT页面底部的功能区将幻灯片以\"阅读视图\"方式进行放映，一页一页播放幻灯片结束后退出放映。",
"task_id": 937,
"instruction": "单击 [阅读视图下的PPT页面区域]",
"screen_size": [
3840,
2160
],
"scene": "信息获取（休闲娱乐）->文件浏览",
"device": "macOS",
"complexity": "高",
"platform": "App (桌面主)",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512291700_637.mp4",
"url": {
"": "screenshots/abilities/action_execution/1767081615052_9b455208_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2338)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n微信页面显示\"当前网络不可用\"，请在手机系统设置里请重新打开WiFi开关，自动连接网络，注意不要启用蜂窝数据，操作到成功连接网络即可。\n你已经完成步骤: 1. 滑动 从屏幕底部向上滑动。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [824, 996, 1022, 1242], \"width\": 1080, \"height\": 2338}}",
"extra_data": {
"goal": "微信页面显示\"当前网络不可用\"，请在手机系统设置里请重新打开WiFi开关，自动连接网络，注意不要启用蜂窝数据，操作到成功连接网络即可。",
"task_id": 274,
"instruction": "单击 [设置app]",
"screen_size": [
1080,
2338
],
"scene": "异常（端内异常）->处理加载/网络问题",
"device": "iOS",
"complexity": "低",
"platform": "移动端app",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202511051533_274.mp4",
"url": {
"": "screenshots/abilities/action_execution/274-2.png"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为720*1600)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n在 \"美团\" App已打开的\"看病买药\" 页面中，进入 \"找医院\" 板块，在 \"三甲\" 分类下的医院列表中，进入第一家医院的详情页。\n你已经完成步骤: 1. 单击 导航栏中的\"找医院\"。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [299, 242, 380, 300], \"width\": 720, \"height\": 1600}}",
"extra_data": {
"goal": "在 \"美团\" App已打开的\"看病买药\" 页面中，进入 \"找医院\" 板块，在 \"三甲\" 分类下的医院列表中，进入第一家医院的详情页。",
"task_id": 641,
"instruction": "单击 [筛选栏中的\"三甲\"选项]",
"screen_size": [
720,
1600
],
"scene": "交易与服务（购物）->生活服务（美团定向任务）-看病买药",
"device": "Android",
"complexity": "低",
"platform": "App",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512231411_341.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766570641916_7218afa2_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为720*1556)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n从桌面开始，进入Edge浏览器，在弹窗内永久授予Edge访问已安装应用信息。\n暂无无历史步骤。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [390, 643, 499, 752], \"width\": 720, \"height\": 1556}}",
"extra_data": {
"goal": "从桌面开始，进入Edge浏览器，在弹窗内永久授予Edge访问已安装应用信息。",
"task_id": 672,
"instruction": "单击 [Edge浏览器APP]",
"screen_size": [
720,
1556
],
"scene": "异常（端内异常）->处理弹窗/对话框",
"device": "Android",
"complexity": "低",
"platform": "Web",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512221122_12.22.3.4.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766383568291_fe6569f0_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n打开桌面上的\"剪映专业版\"App,选择进入右上角的\"全局设置\"中，在剪辑页面将默认帧率设置为30帧每秒并保存。\n你已经完成步骤: 1. 双击 \"剪映专业版\"App; 2. 单击 右上角设置图标; 3. 单击 弹窗中的\"全局设置\"; 4. 单击 弹窗上方的\"剪辑\"标签; 5. 单击 默认帧率后的下拉框; 6. 单击 默认帧率下拉框中的\"30.00帧。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [786, 882, 958, 913], \"width\": 1920, \"height\": 1080}}",
"extra_data": {
"goal": "打开桌面上的\"剪映专业版\"App,选择进入右上角的\"全局设置\"中，在剪辑页面将默认帧率设置为30帧每秒并保存。",
"task_id": 965,
"instruction": "单击 [弹窗中的\"保存\"按钮]",
"screen_size": [
1920,
1080
],
"scene": "系统与设置（操作设置）->应用设置与管理",
"device": "Windows",
"complexity": "中",
"platform": "App (自身设置)",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512291705_665.mp4",
"url": {
"": "screenshots/abilities/action_execution/1767088546362_fe6442ae_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2400)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n在已打开的抖音app中，搜索\"2025年度回忆录\"并筛选官方活动入口，如果过程中出现\"网络错误\"情况，就将该App退出至桌面，从系统自带的设置App中打开WLAN开关，然后退回桌面打开抖音app，再点击重试，直到页面加载成功再继续进行任务。\n你已经完成步骤: 1. 单击 右上角搜索图标。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"type\", \"object\": {\"type\": \"text\", \"text\": \"2025年度回忆录\"}}",
"extra_data": {
"goal": "在已打开的抖音app中，搜索\"2025年度回忆录\"并筛选官方活动入口，如果过程中出现\"网络错误\"情况，就将该App退出至桌面，从系统自带的设置App中打开WLAN开关，然后退回桌面打开抖音app，再点击重试，直到页面加载成功再继续进行任务。",
"task_id": 995,
"instruction": "输入 [2025年度回忆录]",
"screen_size": [
1080,
2400
],
"scene": "异常（端内异常）->处理加载/网络问题",
"device": "Android",
"complexity": "高",
"platform": "App",
"intent": "模糊意图",
"video": "screenshots/abilities/action_execution/202601041436_695.mp4",
"url": {
"": "screenshots/abilities/action_execution/1767669275940_a2f1d1b2_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为432*960)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n从手机桌面打开WeChat app的应用分身，在我的账单中查找2020年整年的支出构成。\n你已经完成步骤: 1. 单击 WeChat app的应用分身。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [336, 900, 423, 950], \"width\": 432, \"height\": 960}}",
"extra_data": {
"goal": "从手机桌面打开WeChat app的应用分身，在我的账单中查找2020年整年的支出构成。",
"task_id": 900,
"instruction": "单击 [底部\"Me\"按钮]",
"screen_size": [
432,
960
],
"scene": "交易与服务（购物）->在线银行/支付",
"device": "Android",
"complexity": "高",
"platform": "App",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512241218_600.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766652471589_963fa704_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n在Alibaba.com首页搜索\"台灯\"并点击后面的搜索按钮进入，输入并筛选价格在50-300之间的商品，打开进入筛选后商品列表第一个商品详情页。\n你已经完成步骤: 1. 单击 阿里巴巴网页内的搜索栏。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"type\", \"object\": {\"type\": \"text\", \"text\": \"台灯\"}}",
"extra_data": {
"goal": "在Alibaba.com首页搜索\"台灯\"并点击后面的搜索按钮进入，输入并筛选价格在50-300之间的商品，打开进入筛选后商品列表第一个商品详情页。",
"task_id": 483,
"instruction": "输入 [台灯]",
"screen_size": [
1728,
1080
],
"scene": "交易与服务（购物）->在线购物",
"device": "Windows",
"complexity": "高",
"platform": "Web",
"intent": "模糊意图",
"video": "screenshots/abilities/action_execution/202512181556_183.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766138973098_58525377_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1152*720)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n从招商银行pc版首页开始，进入账户总览，在尾号为4697的一卡通的交易记录中，先选择近三个月的交易数据，然后再使用高级查询功能筛选出该时间范围内支出金额为200-500元的交易记录。\n你已经完成步骤: 1. 单击 左侧导航栏中的账户总览; 2. 单击 全部账户下的交易查询按钮; 3. 单击 \"最近三个月\"选项。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [979, 325, 1046, 344], \"width\": 1152, \"height\": 720}}",
"extra_data": {
"goal": "从招商银行pc版首页开始，进入账户总览，在尾号为4697的一卡通的交易记录中，先选择近三个月的交易数据，然后再使用高级查询功能筛选出该时间范围内支出金额为200-500元的交易记录。",
"task_id": 770,
"instruction": "单击 [最右侧的高级查询按钮]",
"screen_size": [
1152,
720
],
"scene": "交易与服务（购物）->在线银行/支付",
"device": "Windows",
"complexity": "高",
"platform": "App",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512171832_12.17.1.c4.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766110599009_ebf91681_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n从桌面打开名为\"悬秤\"的word文档，在上方操作栏中先将文档内容设置为多页显示，再将护眼模式打开，接着将纸张方向改为横向后，将分栏设置为三栏。最后打印。要求操作到打印设置页面即可，且全程操作均使用鼠标左键完成。\n你已经完成步骤: 1. 双击 名为\"悬秤\"的word文档; 2. 单击 导航栏的\"视图\"选项; 3. 单击 \"多页\"选项; 4. 单击 护眼模式选项; 5. 单击 功能栏的\"页面\"选项; 6. 单击 纸张方向选项; 7. 单击 弹窗内的\"横向\"选项。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [659, 124, 724, 198], \"width\": 1920, \"height\": 1080}}",
"extra_data": {
"goal": "从桌面打开名为\"悬秤\"的word文档，在上方操作栏中先将文档内容设置为多页显示，再将护眼模式打开，接着将纸张方向改为横向后，将分栏设置为三栏。最后打印。要求操作到打印设置页面即可，且全程操作均使用鼠标左键完成。",
"task_id": 944,
"instruction": "单击 [分栏选项功能]",
"screen_size": [
1920,
1080
],
"scene": "生产力与创作（办公场景）->文档处理",
"device": "Windows",
"complexity": "高",
"platform": "App (桌面主)",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202601041617_644.mp4",
"url": {
"": "screenshots/abilities/action_execution/1767666455331_84ed6f0f_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为886*1920)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n在美团app的团购功能的\"丽人美发\"分类下，通过标签栏先筛选距离最近的店铺，再筛选出高分店铺，在筛选结果中打开第一个商品的团购详情页面并加入购物车。\n你已经完成步骤: 1. 单击 美团app; 2. 单击 团购按钮。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [436, 695, 590, 865], \"width\": 886, \"height\": 1920}}",
"extra_data": {
"goal": "在美团app的团购功能的\"丽人美发\"分类下，通过标签栏先筛选距离最近的店铺，再筛选出高分店铺，在筛选结果中打开第一个商品的团购详情页面并加入购物车。",
"task_id": 150,
"instruction": "单击 [丽人美发按钮]",
"screen_size": [
886,
1920
],
"scene": "交易与服务（购物）->团购",
"device": "iOS",
"complexity": "中",
"platform": "移动端app",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202511051552_150.mp4",
"url": {
"": "screenshots/abilities/action_execution/1763710328129_f728c73c_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n打开微信APP快捷操作里的\"发起群聊\"。\n你已经完成步骤: 1. 双击 微信快捷方式。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [661, 153, 707, 197], \"width\": 1920, \"height\": 1080}}",
"extra_data": {
"goal": "打开微信APP快捷操作里的\"发起群聊\"。",
"task_id": 372,
"instruction": "单击 [微信界面搜索框右侧的加号图标]",
"screen_size": [
1920,
1080
],
"scene": "通信与社交（社交）->即时通讯",
"device": "Windows",
"complexity": "低",
"platform": "App (桌面主)",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/15703348996_1765254695946_1fb19e7e_72.mp4",
"url": {
"": "screenshots/abilities/action_execution/1765424238806_41960784_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1200)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n从Firefox浏览器中已登录的支付宝官网页面开始，进入应用中心，在\"娱乐网购\"中的\"淘宝电影\"频道，选择频道首页中正在热映区域的第一部评分不低于9.0的电影，在选座购票页面保持默认的区域和影城，打开它在明日的排片信息。\n你已经完成步骤: 1. 单击 应用中心; 2. 滑动 支付宝网页版区域向上滑动; 3. 单击 淘宝电影卡片; 4. 滑动 淘票票网页版区域向上滑动; 5. 单击 铁血战士对应的选座购票。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"scroll\", \"object\": {\"type\": \"text\", \"text\": \"up\", \"bbox\": [1, 171, 1918, 1117], \"width\": 1920, \"height\": 1200}}",
"extra_data": {
"goal": "从Firefox浏览器中已登录的支付宝官网页面开始，进入应用中心，在\"娱乐网购\"中的\"淘宝电影\"频道，选择频道首页中正在热映区域的第一部评分不低于9.0的电影，在选座购票页面保持默认的区域和影城，打开它在明日的排片信息。",
"task_id": 193,
"instruction": "滑动 [铁血战士购票页面向上滑动]",
"screen_size": [
1920,
1200
],
"scene": "交易与服务（购物）->在线银行/支付",
"device": "Windows",
"complexity": "高",
"platform": "桌面端网页",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202511101451_20251110_144915.mp4",
"url": {
"": "screenshots/abilities/action_execution/1763975877689_1b942bf9_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为886*1920)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n从Safari浏览器搜索\"山和海的图片\"失败了，显示网络异常，退出当前页面后进入系统设置页面选择使用副卡的网络数据流量，返回至网页端，手动刷新网页，等待图片加载恢复正常。\n你已经完成步骤: 1. 滑动 在屏幕底部区域向上滑动; 2. 单击 设置App图标; 3. 单击 \"Cellular\"选项; 4. 单击 \"Cellular Data\"选项; 5. 单击 \"Secondary\"选项; 6. 滑动 在屏幕底部区域向上滑动; 7. 单击 Safari浏览器图标。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"scroll\", \"object\": {\"type\": \"text\", \"text\": \"down\", \"bbox\": [3, 124, 885, 1610], \"width\": 886, \"height\": 1920}}",
"extra_data": {
"goal": "从Safari浏览器搜索\"山和海的图片\"失败了，显示网络异常，退出当前页面后进入系统设置页面选择使用副卡的网络数据流量，返回至网页端，手动刷新网页，等待图片加载恢复正常。",
"task_id": 681,
"instruction": "滑动 [在浏览器页面中间空白区域向下滑动]",
"screen_size": [
886,
1920
],
"scene": "异常（端内异常）->处理加载/网络问题",
"device": "iOS",
"complexity": "低",
"platform": "Web",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512181343_2025-12-18 13_40_04.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766127433284_c1888601_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n从已打开的淘宝网页版开始，搜索\"曲奇饼干\"，通过AI智选筛选\"巧克力\"口味，然后从分类栏中按销量排序，接着选择价格区间为最多人数选择的区间，最后筛选年货开门红标签，将列表第一个商品打开并以默认规格加购物车。\n你已经完成步骤: 1. 输入 曲奇饼干; 2. 单击 搜索按钮; 3. 单击 AI智选下的\"巧克力\"标签; 4. 单击 \"销量\"标签; 5. 悬停 \"区间\"下拉按钮; 6. 单击 弹窗中的\"14-46\"选项; 7. 单击 弹窗中的\"确定\"按钮。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [454, 505, 632, 549], \"width\": 1728, \"height\": 1080}}",
"extra_data": {
"goal": "从已打开的淘宝网页版开始，搜索\"曲奇饼干\"，通过AI智选筛选\"巧克力\"口味，然后从分类栏中按销量排序，接着选择价格区间为最多人数选择的区间，最后筛选年货开门红标签，将列表第一个商品打开并以默认规格加购物车。",
"task_id": 836,
"instruction": "单击 [\"年货开门8.8折起\"标签]",
"screen_size": [
1728,
1080
],
"scene": "交易与服务（购物）->在线购物",
"device": "macOS",
"complexity": "高",
"platform": "App",
"intent": "模糊意图",
"video": "screenshots/abilities/action_execution/202601061318_536.mp4",
"url": {
"": "screenshots/abilities/action_execution/1767679949706_335cd6c0_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为720*1560)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n在已经打开的\"美团\"APP中，进入\"看病买药\"模块，通过\"问医生\"中的\"按科室问医生\"，进入\"呼吸内科\"相关问题的对话框。执行到进入消息发送页面即可。\n暂无无历史步骤。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [587, 364, 686, 499], \"width\": 720, \"height\": 1560}}",
"extra_data": {
"goal": "在已经打开的\"美团\"APP中，进入\"看病买药\"模块，通过\"问医生\"中的\"按科室问医生\"，进入\"呼吸内科\"相关问题的对话框。执行到进入消息发送页面即可。",
"task_id": 646,
"instruction": "单击 [导航栏中的\"看病买药\"]",
"screen_size": [
720,
1560
],
"scene": "交易与服务（购物）->生活服务（美团定向任务）-看病买药",
"device": "iOS",
"complexity": "低",
"platform": "App",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512231411_346.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766572075730_bdda07b6_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2340)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n打开美团app的跑腿频道，用\"帮我送\"服务送一份数码产品，开启录入尺寸选项并保持录入尺寸为平台默认尺寸，接着先将地址簿里第一个地址设为取件地址，再将地址簿第二个地址设为收件地址。操作到选完地址即可。\n你已经完成步骤: 1. 单击 美团APP; 2. 单击 导航栏中的\"跑腿\"; 3. 单击 \"送数码\"按钮; 4. 单击 下方\"体积; 5. 单击 最下方黄色的\"确定\"; 6. 单击 取件地址信息填写模块; 7. 单击 下方地址中从上到下第一个地址信息; 8. 单击 收件地址信息填写模块。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [35, 1718, 1047, 1890], \"width\": 1080, \"height\": 2340}}",
"extra_data": {
"goal": "打开美团app的跑腿频道，用\"帮我送\"服务送一份数码产品，开启录入尺寸选项并保持录入尺寸为平台默认尺寸，接着先将地址簿里第一个地址设为取件地址，再将地址簿第二个地址设为收件地址。操作到选完地址即可。",
"task_id": 881,
"instruction": "单击 [下方地址中从上到下第二个地址信息]",
"screen_size": [
1080,
2340
],
"scene": "交易与服务（购物）->生活服务（美团定向任务）-跑腿",
"device": "iOS",
"complexity": "高",
"platform": "App",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512231357_2025-12-23 13_54_20.mp4",
"url": {
"": "screenshots/abilities/action_execution/1767505518655_da06e473_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2336)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n从桌面打开Alibaba.comAPP并搜索\"自行车\"，通过标签筛选为全新，并打开第一件商品，询问客服\"河北省发货吗\"。\n你已经完成步骤: 1. 单击 Alibaba.comAPP; 2. 单击 上方搜索框; 3. 输入 自行车。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": [\"click\", \"click\"], \"object\": [{\"type\": \"bbox\", \"bbox\": [889, 144, 1027, 234], \"width\": 1080, \"height\": 2336}, {\"type\": \"bbox\", \"bbox\": [857, 2008, 1074, 2120], \"width\": 1080, \"height\": 2336}]}",
"extra_data": {
"goal": "从桌面打开Alibaba.comAPP并搜索\"自行车\"，通过标签筛选为全新，并打开第一件商品，询问客服\"河北省发货吗\"。",
"task_id": 492,
"instruction": "单击 [搜索按钮]",
"screen_size": [
1080,
2336
],
"scene": "交易与服务（购物）->在线购物",
"device": "iOS",
"complexity": "高",
"platform": "APP",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512161813_192.mp4",
"url": {
"": "screenshots/abilities/action_execution/1765959212468_83dd33dd_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为886*1920)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n在iphone自带的相机里，先将照片功能的实况关闭，再将关闭的闪光灯更改为打开。\n你已经完成步骤: 1. 单击 相机; 2. 单击 右上角的实况符号; 3. 长按 左上角闪光灯符号按钮。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [389, 136, 466, 178], \"width\": 886, \"height\": 1920}}",
"extra_data": {
"goal": "在iphone自带的相机里，先将照片功能的实况关闭，再将关闭的闪光灯更改为打开。",
"task_id": 219,
"instruction": "单击 [打开]",
"screen_size": [
886,
1920
],
"scene": "系统与设置（操作设置）->操作系统设置",
"device": "iOS",
"complexity": "中",
"platform": "移动端app",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202511051639_2025-11-05 16_05_42.mp4",
"url": {
"": "screenshots/abilities/action_execution/1763970629162_e907280f_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1200)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n从Edge浏览器首页开始，点击页面中间的搜索框输入搜索\"招商银行一网通官方网站\"，点击第一个官网链接进入官网，在官网首页的\"在线服务\"内找到\"信用卡申请\"点击进入，筛选查询到同时满足：\"赠送航空意外险、单币卡、VISA、商务旅行卡\"这几个条件的信用卡。以上几个条件按顺序筛选。\n你已经完成步骤: 1. 单击 显示文字搜索网页的搜索框; 2. 输入 招商银行一网通官方网站; 3. 单击 搜索框右侧底色是蓝色的\"搜索\"按钮; 4. 单击 第一个官方网站链接。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"scroll\", \"object\": {\"type\": \"text\", \"text\": \"up\", \"bbox\": [3, 109, 1918, 1120], \"width\": 1920, \"height\": 1200}}",
"extra_data": {
"goal": "从Edge浏览器首页开始，点击页面中间的搜索框输入搜索\"招商银行一网通官方网站\"，点击第一个官网链接进入官网，在官网首页的\"在线服务\"内找到\"信用卡申请\"点击进入，筛选查询到同时满足：\"赠送航空意外险、单币卡、VISA、商务旅行卡\"这几个条件的信用卡。以上几个条件按顺序筛选。",
"task_id": 201,
"instruction": "滑动 [在当前官网页面内向上滑动]",
"screen_size": [
1920,
1200
],
"scene": "交易与服务（购物）->在线银行/支付",
"device": "Windows",
"complexity": "高",
"platform": "桌面端网页",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202511111125_201%20(2).mp4",
"url": {
"": "screenshots/abilities/action_execution/1764040920492_eb469bac_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n在Safari浏览器内输入并通过enter搜索渣打银行，然后进入渣打银行官网，在官网内的借贷板块预约申请个人房地产抵押贷款，在个人资料页面填写完姓名\"王王\"即可。\n你已经完成步骤: 1. 单击 程序坞中的Safari浏览器; 2. 输入 渣打银行; 3. 按下 enter键; 4. 单击 浏览器页面的第一个网页; 5. 悬停 官网首页上方导航栏里的\"借贷\"; 6. 单击 弹出框中的预约申请个人房地产抵押贷款选项; 7. 单击 姓名输入框。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"type\", \"object\": {\"type\": \"text\", \"text\": \"王王\"}}",
"extra_data": {
"goal": "在Safari浏览器内输入并通过enter搜索渣打银行，然后进入渣打银行官网，在官网内的借贷板块预约申请个人房地产抵押贷款，在个人资料页面填写完姓名\"王王\"即可。",
"task_id": 773,
"instruction": "输入 [王王]",
"screen_size": [
1728,
1080
],
"scene": "交易与服务（购物）->在线银行/支付",
"device": "macOS",
"complexity": "高",
"platform": "Web",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512121042_473.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766111080282_e19bebdd_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为2073*1296)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n从猫眼电影网页版里已经打开的\"刺杀小说家2\"影片场次列表开始，选择放映时间最近的一场，购买最中间排、最中心的两连座电影票；如果没有，就购买第一排最中心的两连座电影票。选座顺序先左后右。不用扫码购买，直接选座购买，进入到订单确认页面即可。\n你已经完成步骤: 1. 单击 18:00场次对应的\"选座购票\"按钮; 2. 单击 \"直接选座购票\"按钮; 3. 单击 第一排左数第五个座位。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [705, 565, 750, 599], \"width\": 2073, \"height\": 1296}}",
"extra_data": {
"goal": "从猫眼电影网页版里已经打开的\"刺杀小说家2\"影片场次列表开始，选择放映时间最近的一场，购买最中间排、最中心的两连座电影票；如果没有，就购买第一排最中心的两连座电影票。选座顺序先左后右。不用扫码购买，直接选座购买，进入到订单确认页面即可。",
"task_id": 285,
"instruction": "单击 [第一排左数第六个座位]",
"screen_size": [
2073,
1296
],
"scene": "异常（端内异常）->处理界面变化/元素失效",
"device": "macOS",
"complexity": "中",
"platform": "桌面端网页",
"intent": "间接意图",
"video": "screenshots/abilities/action_execution/202511121500_285.mp4",
"url": {
"": "screenshots/abilities/action_execution/285-4.png"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2340)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n从美团app的打车频道开始，进入餐饮订座，按品类筛选出自助餐，进入列表第一家寿喜锅自助的订座页面，先选择日期为明天，然后选择时间为下午六点，最后选择4人。执行到预订信息确认页面即可。\n你已经完成步骤: 1. 单击 功能入口栏的餐饮订座选项; 2. 单击 筛选栏中的\"品类\"下拉按钮; 3. 单击 弹框中的自助餐选项; 4. 单击 第一家店铺右侧的橙色\"订座\"按钮。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [266, 629, 467, 764], \"width\": 1080, \"height\": 2340}}",
"extra_data": {
"goal": "从美团app的打车频道开始，进入餐饮订座，按品类筛选出自助餐，进入列表第一家寿喜锅自助的订座页面，先选择日期为明天，然后选择时间为下午六点，最后选择4人。执行到预订信息确认页面即可。",
"task_id": 863,
"instruction": "单击 [预订信息选择栏中的\"明天\"]",
"screen_size": [
1080,
2340
],
"scene": "交易与服务（购物）->生活服务（美团定向任务）-打车",
"device": "iOS",
"complexity": "高",
"platform": "App",
"intent": "模糊意图",
"video": "screenshots/abilities/action_execution/202601051631_563.mp4",
"url": {
"": "screenshots/abilities/action_execution/1767678418968_3b8af897_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为432*960)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n打开 UC 浏览器 App 内 \"UC 热搜榜\" 排名第一的热搜，接着滑动阅读完第一篇文章的内容页。\n暂无无历史步骤。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [233, 484, 300, 548], \"width\": 432, \"height\": 960}}",
"extra_data": {
"goal": "打开 UC 浏览器 App 内 \"UC 热搜榜\" 排名第一的热搜，接着滑动阅读完第一篇文章的内容页。",
"task_id": 917,
"instruction": "单击 [UC浏览器]",
"screen_size": [
432,
960
],
"scene": "信息获取（休闲娱乐）->新闻查询",
"device": "Android",
"complexity": "中",
"platform": "App端内",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512191035_617.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766481407680_4cc38ff5_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为444*960)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n从手机桌面开始，进入淘宝APP，搜索\"头盔\"，在筛选条件中先选择中国免费配送，再选择10-100价格区间，将筛选结果中的第一个头盔商品加入收藏。\n你已经完成步骤: 1. 单击 淘宝app图标; 2. 单击 页面上方搜索输入框; 3. 输入 头盔; 4. 单击 输入框右侧的\"搜索\"按钮。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [406, 105, 439, 136], \"width\": 444, \"height\": 960}}",
"extra_data": {
"goal": "从手机桌面开始，进入淘宝APP，搜索\"头盔\"，在筛选条件中先选择中国免费配送，再选择10-100价格区间，将筛选结果中的第一个头盔商品加入收藏。",
"task_id": 838,
"instruction": "单击 [右上方筛选功能按钮]",
"screen_size": [
444,
960
],
"scene": "交易与服务（购物）->在线购物",
"device": "Android",
"complexity": "高",
"platform": "App",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512241431_12.24.4.30-b.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766646578237_9e78ae52_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n打开桌面的\"Microsoft edge\"浏览器，选择标签页上的\"抖音\"标签页进入抖音网页版，搜索\"肉桂金丝熊长什么样\"，打开第一条点赞量超10万的视频。\n你已经完成步骤: 1. 双击 桌面\"Microsoft Edge\"应用; 2. 单击 网页左上方的抖音标签页; 3. 单击 抖音页面内的搜索框。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"type\", \"object\": {\"type\": \"text\", \"text\": \"肉桂金丝熊长什么样\"}}",
"extra_data": {
"goal": "打开桌面的\"Microsoft edge\"浏览器，选择标签页上的\"抖音\"标签页进入抖音网页版，搜索\"肉桂金丝熊长什么样\"，打开第一条点赞量超10万的视频。",
"task_id": 428,
"instruction": "输入 [肉桂金丝熊长什么样]",
"screen_size": [
1920,
1080
],
"scene": "信息获取（休闲娱乐）->网站搜索导航",
"device": "Windows",
"complexity": "中",
"platform": "Browser Use,",
"intent": "模糊意图",
"video": "screenshots/abilities/action_execution/202512161751_128.mp4",
"url": {
"": "screenshots/abilities/action_execution/1765939451801_4de71575_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1620*2160)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n在微博app内发布一条微博动态，内容是系统相册内的唯一一张风景照，无需预览图片也无需编辑图片和文本，直接发布即可。\n你已经完成步骤: 1. 单击 右上角加号按钮; 2. 单击 弹框中\"相册\"按钮; 3. 单击 相册内中间风景照右上方圆圈选中按钮。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [1378, 2024, 1589, 2107], \"width\": 1620, \"height\": 2160}}",
"extra_data": {
"goal": "在微博app内发布一条微博动态，内容是系统相册内的唯一一张风景照，无需预览图片也无需编辑图片和文本，直接发布即可。",
"task_id": 818,
"instruction": "单击 [\"下一步(1)\"按钮]",
"screen_size": [
1620,
2160
],
"scene": "通信与社交（社交）->社交媒体互动",
"device": "iPadOS",
"complexity": "中",
"platform": "App",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512191342_518.mp4",
"url": {
"": "screenshots/abilities/action_execution/1766386120415_5637c26a_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为3108*2160)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n打开桌面上的\"小红书\"App，进入\"我\"页面中\"收藏\"的第一篇笔记，通过分享功能按钮\"生成分享图\",分享至\"QQ好友\"中\"最近转发\"的好友\"one\"。\n你已经完成步骤: 1. 单击 桌面上的小红书APP。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [2485, 1978, 3100, 2075], \"width\": 3108, \"height\": 2160}}",
"extra_data": {
"goal": "打开桌面上的\"小红书\"App，进入\"我\"页面中\"收藏\"的第一篇笔记，通过分享功能按钮\"生成分享图\",分享至\"QQ好友\"中\"最近转发\"的好友\"one\"。",
"task_id": 987,
"instruction": "单击 [右下角的\"我\"按钮]",
"screen_size": [
3108,
2160
],
"scene": "跨应用协作（多端产品使用）->任务接力",
"device": "iPadOS",
"complexity": "高",
"platform": "App (多应用交互)",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512291718_687.mp4",
"url": {
"": "screenshots/abilities/action_execution/1767521353337_c761204a_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1728*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n双击桌面上的快捷方式打开Edge浏览器，在最上方网址栏输入\"https://www.taobao.com\"并使用enter快捷键进入淘宝网页版，打开收货地址列表。\n你已经完成步骤: 1. 双击 桌面上的Microsoft Edge浏览器; 2. 输入 https:; 3. 按下 enter键。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [1473, 465, 1542, 490], \"width\": 1728, \"height\": 1080}}",
"extra_data": {
"goal": "双击桌面上的快捷方式打开Edge浏览器，在最上方网址栏输入\"https://www.taobao.com\"并使用enter快捷键进入淘宝网页版，打开收货地址列表。",
"task_id": 106,
"instruction": "单击 [个人信息板块中的收货地址选项]",
"screen_size": [
1728,
1080
],
"scene": "交易与服务（购物）->在线购物",
"device": "Windows",
"complexity": "中",
"platform": "桌面端网页",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202511251605_106.mp4",
"url": {
"": "screenshots/abilities/action_execution/1764213520867_d271d8d1_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*2336)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n从快手APP首页开始，搜索\"行李箱\"商品，按销量排序，然后进入并推荐第一个商品。\n你已经完成步骤: 1. 单击 右上角的放大镜图标; 2. 输入 行李箱; 3. 单击 搜索按钮。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [359, 274, 519, 361], \"width\": 1080, \"height\": 2336}}",
"extra_data": {
"goal": "从快手APP首页开始，搜索\"行李箱\"商品，按销量排序，然后进入并推荐第一个商品。",
"task_id": 406,
"instruction": "单击 [分类栏的\"Goods\" 标签]",
"screen_size": [
1080,
2336
],
"scene": "通信与社交（社交）->社交媒体互动",
"device": "iOS",
"complexity": "中",
"platform": "App",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512101713_106.mp4",
"url": {
"": "screenshots/abilities/action_execution/1765430851174_157ff908_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1920*1080)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 鼠标左键点击屏幕的[x,y]坐标点。\n- doubleClick [x,y]: 鼠标左键双击屏幕的[x,y]坐标点。\n- tripleClick [x,y]: 鼠标左键三击屏幕的[x,y]坐标点。\n- rightClick [x,y]: 鼠标右键点击屏幕的[x,y]坐标点。\n- hover [x,y]: 将鼠标悬停至屏幕的[x,y]坐标点。\n- press [key]/[key1,key2,key3...]: 按下键盘上的[key]的按键/按下键盘上的[key1,key2,key3...]的组合键。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滚动鼠标中键，当执行连续滑动操作时，仅输出一次即可。\n- drag [x1,y1,x2,y2]: 从[x1,y1]拖拽到[x2,y2]。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n通过\"WPS Office\"单击打开\"日销售额(1).xlsx\"表格。选中E12单元格，使用上方操作栏中\"AutoSum（∑）\"对表中\"销售额\"列（E2:E11）数据进行求和。\n你已经完成步骤: 1. 双击 桌面\"WPS Office\"快捷方式; 2. 单击 \"日销售额(1).xlsx\"文字信息; 3. 单击 E12单元格; 4. 单击 上方操作栏中\"AutoSum\"按钮。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": [\"press\", \"click\"], \"object\": [{\"type\": \"text\", \"text\": \"enter\"}, {\"type\": \"bbox\", \"bbox\": [1443, 108, 1523, 140], \"width\": 1920, \"height\": 1080}]}",
"extra_data": {
"goal": "通过\"WPS Office\"单击打开\"日销售额(1).xlsx\"表格。选中E12单元格，使用上方操作栏中\"AutoSum（∑）\"对表中\"销售额\"列（E2:E11）数据进行求和。",
"task_id": 946,
"instruction": "按下 [回车键]",
"screen_size": [
1920,
1080
],
"scene": "生产力与创作（办公场景）->表格处理",
"device": "Windows",
"complexity": "中",
"platform": "App (桌面主)",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202512291656_646.mp4",
"url": {
"": "screenshots/abilities/action_execution/1767152233020_a77297ff_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为1080*1554)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n打开美团民宿App，进入短租页面，在位置信息对应板块获取当前定位，然后将户型选择为2居室，其他设置保持不变并进行搜索，将搜索结果筛选为4.8分以上，进入第一个商品。\n你已经完成步骤: 1. 单击 美团民宿APP; 2. 单击 短租选项; 3. 单击 \"小区; 4. 单击 户型不限选项; 5. 单击 2居室选项; 6. 单击 确认按钮。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [175, 688, 901, 802], \"width\": 1080, \"height\": 1554}}",
"extra_data": {
"goal": "打开美团民宿App，进入短租页面，在位置信息对应板块获取当前定位，然后将户型选择为2居室，其他设置保持不变并进行搜索，将搜索结果筛选为4.8分以上，进入第一个商品。",
"task_id": 854,
"instruction": "单击 [搜索按钮]",
"screen_size": [
1080,
1554
],
"scene": "交易与服务（购物）->生活服务（美团定向任务）-酒店民宿",
"device": "iPadOS",
"complexity": "高",
"platform": "App",
"intent": "直接意图",
"video": "screenshots/abilities/action_execution/202601061102_554.mp4",
"url": {
"": "screenshots/abilities/action_execution/1768295314919_10e6673a_video_capture_frame.jpeg"
},
"ability": "action_execution"
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得一个任务，历史动作和屏幕截图(分辨率为432*960)，您需要分析屏幕内容并预测下一个执行动作。\n\n可用功能：\n- click [x,y]: 点击屏幕的[x,y]坐标点。\n- longPress [x,y]: 长按屏幕的[x,y]坐标点。\n- type [text]: 输入文本[text]。\n- scroll [direction]: 向[direction(up/down/left/right)]方向滑动屏幕，当执行连续滑动操作时，仅输出一次即可。\n- wait [seconds]: 等待一定时长(秒)。\n\n格式要求：\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n从携程官网首页开始。进入火车票，查询12月17日成都到南京的高铁动车票，选择17：59出发的车票，要求选择二等座，如果二等座要候补的话就选择动卧最便宜的。到订单填写即可。\n你已经完成步骤: 1. 单击 分类栏中\"火车票\"标签。 \n请分析屏幕内容并预测下一个执行动作。",
"target": "{\"action\": \"click\", \"object\": {\"type\": \"bbox\", \"bbox\": [301, 534, 407, 560], \"width\": 432, \"height\": 960}}",
"extra_data": {
"goal": "从携程官网首页开始。进入火车票，查询12月17日成都到南京的高铁动车票，选择17：59出发的车票，要求选择二等座，如果二等座要候补的话就选择动卧最便宜的。到订单填写即可。",
"task_id": 689,
"instruction": "单击 [勾选\"高铁动车\"按钮]",
"screen_size": [
432,
960
],
"scene": "异常（端内异常）->处理界面变化/元素失效",
"device": "Android",
"complexity": "中",
"platform": "Browser Use",
"intent": "模糊意图",
"video": "screenshots/abilities/action_execution/202512171316_389.mp4",
"url": {
"