智能体（AI Agent）开发 Оригинал на китайском
面议
Откликнуться на вакансию
Описание вакансии
岗位职责：
• 设计并实现分布式训练任务管理架构，支持多种训练框架的统一编排
• 对接主流分布式训练框架（PyTorch DDP/FSDP、DeepSpeed、Megatron-LM 等），实现训练任务的自动化提交和监控
• 实现训练检查点管理与断点续训能力，支持故障恢复和任务迁移
• 构建训练指标采集与监控体系，对接可视化工具（Wandb/TensorBoard 等）
• 设计并实现高性能推理服务架构，支持多种推理引擎的统一接入
• 对接主流推理引擎（vLLM/TensorRT-LLM/SGLang 等），实现统一推理 API（OpenAI 兼容格式）
• 实现推理服务的弹性扩缩容、负载均衡和流量路由
• 优化推理性能，实现 Prefill/Decode 分离、KV Cache 复用等高级特性
• 设计并实现模型仓库服务，支持模型注册、版本管理、灰度发布
• 实现模型生命周期管理，包括热度管理、权重存储、访问控制
• 通过 gRPC + Protobuf 实现与调度层的跨语言通信
• 通过消息队列实现异步任务处理和事件驱动架构
• 编写技术文档，参与架构评审和代码审查
Требования
1) 学历与专业：本科及以上学历，计算机/人工智能/软件工程/数学相关专业
2) Python 开发能力：5 年以上 Python 开发经验，精通语言核心特性：
• 异步编程：asyncio/aiohttp/uvicorn
• 类型系统：typing/Pydantic/Type Hints
• 元编程：decorator/metaclass/context manager
• 性能优化：Profiling/Cython/PyPy 使用经验
• 有大型 Python 项目架构设计经验（单体服务 5 万行以上或微服务集群 3 个以上）
3) AI/ML 项目经验：3 年以上 AI/ML 项目经验，有以下至少两项实战经验：
• 大语言模型（LLM）训练或推理
• 分布式训练任务编排和管理
• 模型服务化部署（Model Serving）
• AI Pipeline 搭建和优化
4) PyTorch 框架能力：熟练掌握 PyTorch 框架，有分布式训练实战经验：
• 必须熟悉：DDP（DistributedDataParallel）
• 至少熟悉一种：FSDP（FullyShardedDataParallel）、DeepSpeed ZeRO、Megatron-LM
• 理解分布式训练核心概念：数据并行、模型并行、流水线并行、张量并行
• 有训练性能优化经验：梯度累积、混合精度训练、通信优化
5) Web 框架能力：熟练掌握 FastAPI 框架，有以下实战经验：
• 高性能 API 设计和实现（QPS > 1000）
• 依赖注入和中间件开发
• OpenAPI 规范和自动生成文档
• 后台任务处理（Celery/Background Tasks）
6) 跨语言通信：熟悉 gRPC + Protobuf，有以下实战经验：
• Proto 文件定义和多语言代码生成
• gRPC 流式通信（Unary/Server Streaming/Bidirectional）
• 错误处理和重试机制
• 性能优化（连接池、负载均衡）
7) 工程能力：
• 熟悉 Docker 容器化部署，了解 Kubernetes 基本概念
• 熟悉 CI/CD 流程，有自动化测试经验
• 有良好的代码规范和文档习惯，有代码审查意识
• 有性能优化经验（CPU/内存/IO Profiling）
加分项：推理引擎经验；分布式训练框架；模型管理与服务化；可观测性与监控；消息队列与异步处理；数据库与存储；云原生与容器化
Частые вопросы
通用答案一
通用答案二
Вакансия не подошла, но хотите оставаться на связи?
Оставьте сообщение — наша база талантов всегда открыта