本篇将以两个简单的应用场景——验证码识别（图文输入）和视频理解（视频文本输入），向你介绍如何使用 Qwen 2.5 VL 模型。我们将会使用 vLLM 作为推理框架，使用示例则使用 Python 代码和 Cherry Studio。因此同时，本篇也将会简单介绍 vLLM 部署 Qwen 2.5 VL。

随着人工智能应用的普及，越来越多的开发者开始关注如何构建自己的 AI 应用。Model Context Protocol（MCP）作为一种新的协议标准，为 AI 应用的开发提供了更高效、更通用的方式。本文将以 Apache ECharts + TypeScript 为例，快速入手 MCP 服务器开发。

MCP 是什么

MCP (Model Context Protocol) 是一种用于 LLM 与应用程序之间交互的协议。它尽可能统一了 LLM 与外部应用（工具）之间的交互方式，让开发者可以注重于业务开发，而不是费心于与不同种类的 LLM 交互的细节。

语义化版本

在软件管理的领域里存在着被称作“依赖地狱”的死亡之谷，系统规模越大，加入的包越多，你就越有可能在未来的某一天发现自己已深陷绝望之中。
在依赖高的系统中发布新版本包可能很快会成为噩梦。如果依赖关系过高，可能面临版本控制被锁死的风险（必须对每一个依赖包改版才能完成某次升级）。而如果依赖关系过于松散，又将无法避免版本的混乱（假设兼容于未来的多个版本已超出了合理数量）。当你项目的进展因为版本依赖被锁死或版本混乱变得不够简便和可靠，就意味着你正处于依赖地狱之中。

Pandas 是 Python 中一个非常流行和成熟的数据分析库，而 PandasAI 是一个基于 Pandas 的人工智能工具，它可以帮助我们更轻松简单地进行较为简单的数据分析和简单的可视化工作。本文将介绍 PandasAI v3 的基本操作。

PandasAI 文档
PandasAI GitHub

---

前言

上期我们介绍了如何在昇腾环境下使用 vLLM 进行大语言模型的推理部署，但当前 vLLM 在昇腾环境下性能实在不理想。而本期将是使用 Llama.cpp 作为后端，使用 GPUStack 一键运行大模型的推理部署。若使用非容器环境，则除去 Llama.cpp，还可选择更为理想的华为 MindIE 框架进行部署。GPUStack 的本机安装官方仅支持 Llama.cpp，Docker 部署同时支持 MindIE 和 Llama.cpp。

距离上次认真写点什么已经近两个月了，咕咕真是抱歉呐……下次还敢！

回看此前的文章，实在不甚满意。未来的博文将会更注重 实用性 和 简洁明了，不再事无巨细地描述每一个细节。希望能给未来翻阅的自己留下些真正有用的宝藏，当然也希望能给你带来更好的阅读体验。

前言

这是昇腾推理系列文章的第一篇，在这个系列中我将会依次记录三个目前主流的大语言模型推理实现方式在昇腾环境下的部署过程，依次是 vLLM（针对非 GGUF 模型）、Llama Box(GPUStack，针对 GGUF 模型) 以及华为昇腾生态中的 MindIE 框架。

记录一下 Dify 外置工具与 Multipart File 端点的兼容性坑。

学习在 JavaScript 中 使用 JSON。

Web 开发过程中不可避免的需要不断的测试端点，今天比较一下各种测试方式，顺便记录一下 Idea(大部分 Jetbrains IDE)中如何使用自带的 HTTP Client 快速测试端点。

省流：简单端点推荐使用 HTTP Client，复杂端点、特殊端点（文件上传下载、二进制相关、请求体结构复杂/包含特殊字符等）建议使用 Apipost 等专门的测试工具，搭配 Idea 插件效率也是很高的。

测试方式

测试方式	优点	缺点
curl	- 快速 - 信息丰富	命令行操作不直观，完全掌握有难度
Postman 类应用	- 可视化操作入手简单 - 测试工作规范性好 - 多人协作支持完善	需要安装软件，点来点去操作繁琐
.http 文件测试	- IDE集成，和项目代码集成度高 - 测试工作规范化好 - 多人协作通过Git同步也还不错	需要 IDE 支持，精通学习成本高，有 Bug

粗略记录一下 Linux SSH 登录的一些常用配置。本文基于 Ubuntu 22.04 LTS (openssh-server < 1:9.0p1-1ubuntu1) 版本。

安装 OpenSSH Server

通常情况下，常用的 Linux 发行版在系统部署阶段都可以选择安装 OpenSSH Server，如果没有安装，可以通过包管理器安装。

配置文件