screen-vision

---
name: screen-vision
description: macOS Local OCR & Automation Tool using Vision Framework. Zero token cost for screen understanding.
metadata:
  {
    "openclaw": {
      "requires": { "bins": ["swift"] }
    }
  }
---

# screen-vision Skill

利用 Mac 本地 Vision 框架实现的极速 OCR 识别工具，为 AI 提供“本地之眼”。

## 功能
- **零 Token 截屏识别**：在本地完成屏幕文字提取，仅向 AI 传输关键文本和坐标。
- **精确坐标定位**：识别屏幕上任何文字的 [X, Y] 坐标。
- **多语言支持**：支持中英文混合识别。
- **通用操作基础**：配合内置脚本，可实现对任何应用的自动化点击和输入。

## 权限要求 (重要)
由于 macOS 的安全性限制，使用此技能前，用户必须手动在以下路径开启权限：
1. **系统设置 -> 隐私与安全性 -> 屏幕录制**：勾选你运行 OpenClaw 的终端或应用（如 Terminal, iTerm2）。
2. **系统设置 -> 隐私与安全性 -> 辅助功能**：同上（用于点击操作）。

## 使用场景
- 当用户说：“帮我操作 [某应用]”时，先运行此 Skill 扫描界面。
- 自动监控屏幕上的状态变化（如：余额、通知、进度条）。
- 识别非标准 UI（如 Telegram 桌面版、专业工具软件）。

## 内部代码
- `scripts/vision_ocr.swift`: 执行本地 Swift 识别逻辑。
- `scripts/click.swift`: 执行物理鼠标点击。