{
"examples": [
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\", \"单击\", \"按下\"], \"object\": [{\"type\": \"text\", \"text\": \"放大镜\"}, {\"type\": \"text\", \"text\": \"搜索\"}, {\"type\": \"text\", \"text\": \"enter\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 459,
"step_id": 3,
"devices": "Windows",
"url": {
"": "screenshots/abilities/action_understanding/1765951285250_9b9bbd1e_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1765951330187_ab501686_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"输入\"], \"object\": [{\"type\": \"text\", \"text\": \"相机\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 963,
"step_id": 3,
"devices": "iOS",
"url": {
"": "screenshots/abilities/action_understanding/1767669179444_15e0ff93_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1767669254835_c293de65_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"输入你的目的地\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 563,
"step_id": 4,
"devices": "iOS",
"url": {
"": "screenshots/abilities/action_understanding/1766026263256_e21a2e2b_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1766026363081_00193b4f_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Expenses\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 893,
"step_id": 4,
"devices": "iOS",
"url": {
"": "screenshots/abilities/action_understanding/1766647321668_a77b5d9f_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1766647328921_5da8b000_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"即将发售\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 753,
"step_id": 3,
"devices": "Windows",
"url": {
"": "screenshots/abilities/action_understanding/1766053496017_6549e2e3_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1766053529453_5702ede0_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"黑体\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 57,
"step_id": 4,
"devices": "macOS",
"url": {
"": "screenshots/abilities/action_understanding/57-4.png",
"": "screenshots/abilities/action_understanding/57-5.png"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"健身房\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 142,
"step_id": 13,
"devices": "iOS",
"url": {
"": "screenshots/abilities/action_understanding/1764037596353_a62d0e60_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1764037654525_a2569ea5_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\", \"单击\", \"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"无线局域网\"}, {\"type\": \"text\", \"text\": \"WlAN\"}, {\"type\": \"text\", \"text\": \"Wi-Fi\"}, {\"type\": \"text\", \"text\": \"WiFi\"}, {\"type\": \"text\", \"text\": \"wifi\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 278,
"step_id": 3,
"devices": "iOS",
"url": {
"": "screenshots/abilities/action_understanding/278-3.png",
"": "screenshots/abilities/action_understanding/278-4.png"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\", \"单击\", \"单击\", \"按下\", \"按下\"], \"object\": [{\"type\": \"text\", \"text\": \"重新加载网页\"}, {\"type\": \"text\", \"text\": \"重新加载此页\"}, {\"type\": \"text\", \"text\": \"刷新\"}, {\"type\": \"text\", \"text\": \"F5\"}, {\"type\": \"text\", \"text\": \"Ctrl+R\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 260,
"step_id": 3,
"devices": "Windows",
"url": {
"": "screenshots/abilities/action_understanding/260-3.png",
"": "screenshots/abilities/action_understanding/260-4.png"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"双击\"], \"object\": [{\"type\": \"text\", \"text\": \"猴子\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 701,
"step_id": 8,
"devices": "Windows",
"url": {
"": "screenshots/abilities/action_understanding/1766120520225_445ef128_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1766120676011_c1202a45_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"支付宝\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 899,
"step_id": 1,
"devices": "Android",
"url": {
"": "screenshots/abilities/action_understanding/1766478384967_6341b345_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1766478731903_6c889e5d_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"等待\", \"单击\", \"等待\"], \"object\": [{\"type\": \"text\", \"text\": \"3秒\"}, {\"type\": \"text\", \"text\": \"跳过广告\"}, {\"type\": \"text\", \"text\": \"3s\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 18,
"step_id": 2,
"devices": "Android",
"url": {
"": "screenshots/abilities/action_understanding/1763632201957_a425e8fb_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1763632297785_403376f9_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"特价外卖\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 508,
"step_id": 4,
"devices": "iOS",
"url": {
"": "screenshots/abilities/action_understanding/1766138675893_a9960be7_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1766138720430_07161e8d_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"输入\"], \"object\": [{\"type\": \"text\", \"text\": \"风景图片\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 700,
"step_id": 3,
"devices": "Windows",
"url": {
"": "screenshots/abilities/action_understanding/1766121465404_581bc547_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1766121496903_a010be88_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"媒体\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 50,
"step_id": 8,
"devices": "macOS",
"url": {
"": "screenshots/abilities/action_understanding/1767944924675_9e8df43a_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1767944931386_9dd31b5f_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"双击\"], \"object\": [{\"type\": \"text\", \"text\": \"Firefox\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 234,
"step_id": 1,
"devices": "Windows",
"url": {
"": "screenshots/abilities/action_understanding/1767949302566_f702b211_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1767949320784_0d78aaf3_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"搜索框\"}, {\"type\": \"text\", \"text\": \"雪中飞短款羽绒服\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 696,
"step_id": 2,
"devices": "iOS",
"url": {
"": "screenshots/abilities/action_understanding/1766132772746_5b07e11c_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1766132890203_21f24662_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"附件\"}, {\"type\": \"text\", \"text\": \"回形针\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 357,
"step_id": 7,
"devices": "macOS",
"url": {
"": "screenshots/abilities/action_understanding/1765783256225_cbb89f99_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1765783371311_4535bd2d_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"更多服务\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 862,
"step_id": 2,
"devices": "Android",
"url": {
"": "screenshots/abilities/action_understanding/1767677764908_901d269f_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1767677796399_c35ebaa3_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Page Number\"}, {\"type\": \"text\", \"text\": \"PageNumber\"}, {\"type\": \"text\", \"text\": \"页码\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 943,
"step_id": 8,
"devices": "Windows",
"url": {
"": "screenshots/abilities/action_understanding/1767082688765_1bdbca77_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1767082850860_ad795ea2_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"买家秀 1000+\"}, {\"type\": \"text\", \"text\": \"买家秀1000+\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 495,
"step_id": 8,
"devices": "iPadOS",
"url": {
"": "screenshots/abilities/action_understanding/1766138317869_52757cab_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1766138406055_ad7538b7_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"右侧“不限”\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 472,
"step_id": 5,
"devices": "iOS",
"url": {
"": "screenshots/abilities/action_understanding/1766136703267_e3660ce5_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1766136760637_adb63b12_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"文件夹和标签\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 363,
"step_id": 2,
"devices": "macOS",
"url": {
"": "screenshots/abilities/action_understanding/1765781523639_b7b3d688_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1765781675563_ae4b7ede_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"搜索\"}, {\"type\": \"text\", \"text\": \"Search\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 824,
"step_id": 4,
"devices": "iPadOS",
"url": {
"": "screenshots/abilities/action_understanding/1766648769109_7bf2f3ce_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1766648932924_94eb4fb1_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"行程\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 213,
"step_id": 2,
"devices": "iPadOS",
"url": {
"": "screenshots/abilities/action_understanding/1763977070262_b7244180_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1763977163926_3b604eae_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"输入框\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 808,
"step_id": 7,
"devices": "iPadOS",
"url": {
"": "screenshots/abilities/action_understanding/1766390209234_5ed2fba4_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1766390290093_c85d428a_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"加入购物车\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 716,
"step_id": 10,
"devices": "iOS",
"url": {
"": "screenshots/abilities/action_understanding/1766124366685_2a2b2d53_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1766124657974_d7ce86eb_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"输入\"], \"object\": [{\"type\": \"text\", \"text\": \"足球比赛直播\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 307,
"step_id": 2,
"devices": "Android",
"url": {
"": "screenshots/abilities/action_understanding/1764827990511_5c09eb23_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1764828062926_6508ab51_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"输入\"], \"object\": [{\"type\": \"text\", \"text\": \"手机壳\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 482,
"step_id": 2,
"devices": "Android",
"url": {
"": "screenshots/abilities/action_understanding/1765956785470_a3c6e5d2_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1765956856265_2af57d4f_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\", \"按下\"], \"object\": [{\"type\": \"text\", \"text\": \"搜索\"}, {\"type\": \"text\", \"text\": \"enter\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 456,
"step_id": 3,
"devices": "Windows",
"url": {
"": "screenshots/abilities/action_understanding/1765950067821_bc4ed63f_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1765950267997_750c1c13_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"右上角+号\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 818,
"step_id": 1,
"devices": "iPadOS",
"url": {
"": "screenshots/abilities/action_understanding/1766385822874_aaeb8efa_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1766385899429_af259c41_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"京东热卖\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 833,
"step_id": 1,
"devices": "Windows",
"url": {
"": "screenshots/abilities/action_understanding/1766388518386_25d879e7_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1766388674762_da283154_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"神券\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 534,
"step_id": 2,
"devices": "iOS",
"url": {
"": "screenshots/abilities/action_understanding/1766023584362_e0243952_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1766023647276_11c25a19_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Expand\"}, {\"type\": \"text\", \"text\": \"展开\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 809,
"step_id": 1,
"devices": "Windows",
"url": {
"": "screenshots/abilities/action_understanding/1766647462463_43b3ccad_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1766647648232_1551b8bb_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"创建模板\"}, {\"type\": \"text\", \"text\": \"+创建模板\"}, {\"type\": \"text\", \"text\": \"+\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 180,
"step_id": 6,
"devices": "iOS",
"url": {
"": "screenshots/abilities/action_understanding/1763962049702_f1a8c22b_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1763962133855_d77c75bd_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"帮我买\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 174,
"step_id": 3,
"devices": "Android",
"url": {
"": "screenshots/abilities/action_understanding/1764038896706_04199932_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1764038948902_bad5b485_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Chicken Apple Flavor\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 695,
"step_id": 8,
"devices": "iOS",
"url": {
"": "screenshots/abilities/action_understanding/1766132780553_39e5f442_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1766132919094_e545cddf_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"14-46\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 836,
"step_id": 6,
"devices": "macOS",
"url": {
"": "screenshots/abilities/action_understanding/1767679932111_c557ef3e_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1767679942122_08b15795_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"团购\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 856,
"step_id": 1,
"devices": "Android",
"url": {
"": "screenshots/abilities/action_understanding/1766395332694_827a7d6e_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1766399143716_145e6e78_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Inbox\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 368,
"step_id": 2,
"devices": "iOS",
"url": {
"": "screenshots/abilities/action_understanding/1765423324609_a7c1baf0_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1765423481536_a3e8c4e7_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"美团\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 873,
"step_id": 1,
"devices": "Android",
"url": {
"": "screenshots/abilities/action_understanding/1766469802618_fb5f8029_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1766469823331_91d58c4d_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"美食\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 595,
"step_id": 1,
"devices": "iPadOS",
"url": {
"": "screenshots/abilities/action_understanding/1766546244272_77cdc213_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1766546382872_7f6ef975_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"双击\", \"双击\"], \"object\": [{\"type\": \"text\", \"text\": \"Work Docs\"}, {\"type\": \"text\", \"text\": \"WorkDocs\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 442,
"step_id": 1,
"devices": "macOS",
"url": {
"": "screenshots/abilities/action_understanding/1765941519800_4895fcd3_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1765941818679_0d972a58_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"休闲玩乐\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 986,
"step_id": 2,
"devices": "iOS",
"url": {
"": "screenshots/abilities/action_understanding/1767164078656_c90f1d6c_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1767164140576_9c01f2d0_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Dark Mode\"}, {\"type\": \"text\", \"text\": \"DarkMode\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 968,
"step_id": 4,
"devices": "iOS",
"url": {
"": "screenshots/abilities/action_understanding/1767164840073_1ee69e5a_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1767164862429_42e3367b_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Languages & input\"}, {\"type\": \"text\", \"text\": \"Languages&input\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 728,
"step_id": 4,
"devices": "Android",
"url": {
"": "screenshots/abilities/action_understanding/1766115109028_394f6d96_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1766115221481_5092d9a0_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"小红书\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 703,
"step_id": 7,
"devices": "iPadOS",
"url": {
"": "screenshots/abilities/action_understanding/1766122943129_c0baf10d_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1766123058710_6e2bd844_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\", \"按下\"], \"object\": [{\"type\": \"text\", \"text\": \"确定\"}, {\"type\": \"text\", \"text\": \"Enter\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 450,
"step_id": 12,
"devices": "macOS",
"url": {
"": "screenshots/abilities/action_understanding/1765943120840_a0e15550_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1765948514278_160d5fad_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Browsing history\"}, {\"type\": \"text\", \"text\": \"Browsinghistory\"}, {\"type\": \"text\", \"text\": \"浏览历史\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 471,
"step_id": 3,
"devices": "iOS",
"url": {
"": "screenshots/abilities/action_understanding/1765955243730_4d4798eb_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1765955403735_21959e6b_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"杭州\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 656,
"step_id": 6,
"devices": "Windows",
"url": {
"": "screenshots/abilities/action_understanding/1767062173917_07969749_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1767062235710_be69b0c8_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"西安\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 212,
"step_id": 5,
"devices": "Windows",
"url": {
"": "screenshots/abilities/action_understanding/1764041281948_6838ff38_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1764041526746_891b3523_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"A3横向\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 447,
"step_id": 1,
"devices": "Windows",
"url": {
"": "screenshots/abilities/action_understanding/1765943803222_0d52363c_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1765943865018_0caae64c_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"OK\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 728,
"step_id": 7,
"devices": "Android",
"url": {
"": "screenshots/abilities/action_understanding/1766115400712_0a728056_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1766115476159_fab601f1_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"顶部免配送费\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 135,
"step_id": 6,
"devices": "iPadOS",
"url": {
"": "screenshots/abilities/action_understanding/1763722321378_28218251_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1763722383954_8d84cd33_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"按下\", \"按下\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"Windows\"}, {\"type\": \"text\", \"text\": \"Ctrl+Esc\"}, {\"type\": \"text\", \"text\": \"底部任务栏第一个\"}, {\"type\": \"text\", \"text\": \"开始\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 259,
"step_id": 1,
"devices": "Windows",
"url": {
"": "screenshots/abilities/action_understanding/259-1.png",
"": "screenshots/abilities/action_understanding/259-2.png"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"个人简历\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 340,
"step_id": 1,
"devices": "Windows",
"url": {
"": "screenshots/abilities/action_understanding/1764554897056_61ec029e_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1764555078953_a7472bbf_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"全部\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 244,
"step_id": 5,
"devices": "iOS",
"url": {
"": "screenshots/abilities/action_understanding/1763969382838_d2f73d7b_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1763969421099_b2921b0e_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"确定\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 768,
"step_id": 10,
"devices": "Windows",
"url": {
"": "screenshots/abilities/action_understanding/1766110368984_8b889bae_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1766110437480_958a739a_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"跑腿\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 628,
"step_id": 1,
"devices": "iOS",
"url": {
"": "screenshots/abilities/action_understanding/1766563148692_941f9fc0_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1766564931778_4183ccb4_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"输入\"], \"object\": [{\"type\": \"text\", \"text\": \"1000\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 949,
"step_id": 3,
"devices": "macOS",
"url": {
"": "screenshots/abilities/action_understanding/1767161183493_0de84fa3_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1767161188749_26502c8a_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"输入\"], \"object\": [{\"type\": \"text\", \"text\": \"猴子简介\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 701,
"step_id": 11,
"devices": "Windows",
"url": {
"": "screenshots/abilities/action_understanding/1766121048772_e856faf9_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1766121140296_ac1652a8_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"西城区\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 667,
"step_id": 8,
"devices": "macOS",
"url": {
"": "screenshots/abilities/action_understanding/1766643677064_5b8472c5_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1766643980999_0b2d28ac_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"全部筛选\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 844,
"step_id": 4,
"devices": "Android",
"url": {
"": "screenshots/abilities/action_understanding/1766390971246_c0c6fefa_video_capture_frame.jpeg",
"": "screenshots/abilities/action_understanding/1766391028375_aded6d23_video_capture_frame.jpeg"
}
}
},
{
"input": "您是一个专业的GUI自动化代理。您将获得界面执行单个动作的前后截图并回答问题。\n\n可用功能:\n- 单击 [元件名称]:单击界面上名为[元件名称]的元素。\n- 双击 [元件名称]:双击界面上名为[元件名称]的元素。\n- 输入 [文本内容]:在输入框中输入[文本内容]\n- 按下 [key]:按下键盘上的[key]的按键\n- 滑动 [方向]:向[方向(上/下)]滑动页面,当执行连续向上、向下滑动操作时,仅输出一次即可。\n\n格式要求:\n- 请先分析屏幕再以xxx输出动作。\n- 动作按照可用功能的格式输出(保留定义中的\"[]\"符号)。\n请回答从截图1到截图2页面发生了什么动作?",
"target": "{\"action\": [\"单击\", \"单击\", \"单击\", \"单击\", \"单击\", \"单击\"], \"object\": [{\"type\": \"text\", \"text\": \"14.2玫瑰花从(元气浆果棕)\"}, {\"type\": \"text\", \"text\": \"14.2 玫瑰花从(元气浆果棕)\"}, {\"type\": \"text\", \"text\": \"玫瑰花从\"}, {\"type\": \"text\", \"text\": \"元气浆果棕\"}, {\"type\": \"text\", \"text\": \"14.2玫瑰花从元气浆果棕\"}, {\"type\": \"text\", \"text\": \"14.2 玫瑰花从元气浆果棕\"}]}",
"extra_data": {
"ability": "action_understanding",
"task_id": 697,
"step_id": 8,
"devices": "iPadOS",
"url": {
"