摆脱云端大模型依赖:Kali Linux推出纯本地自然语言驱动的离线渗透测试方案

利用 Ollama 与 5ire 构建完全离线的自然语言渗透引擎

LOCAL LLM-DRIVEN OFFENSIVE SECURITY

Kali：我们正在扩展基于 LLM 驱动的 Kali 系列，在该系列中，自然语言取代了手动命令输入。然而，这一次，我们将完全在本地和离线状态下完成所有操作。我们将使用自己的硬件，而不依赖任何第三方服务/SaaS。

GPU (Nvidia)

HARDWARE PREPARATION

使用的硬件：

$ lspci | grep -i vga 07:00.0 VGA compatible controller: NVIDIA Corporation GP106 [GeForce GTX 1060 6GB] (rev a1) 

$

NVIDIA GeForce GTX 1060 (6 GB)。

驱动程序 (Drivers)

我们将通过确保安装“non-free（非自由）”的专有驱动程序来检查我们的硬件是否就绪。非自由选项允许提供 CUDA 支持，而开源的 nouveau 驱动程序则缺乏该支持。同时，请确保我们的内核（Kernel）和头文件也是最新版本：

$ sudoapt update

[...]

$

$ sudoaptinstall -y linux-image-$(dpkg --print-architecture) linux-headers-$(dpkg --print-architecture) nvidia-driver nvidia-smi

[...] 

│ Conflicting nouveau kernel module loaded │ 

│ The free nouveau kernel module is currently loaded and conflicts with the non-free nvidia kernel module.  │ 

│ The easiest way to fix this is to reboot the machine once the installation has finished.                  

| 

[...]

$

$ sudo reboot

（使用不同的 GPU 制造商，如 AMD 或 Intel 等，咱不支持。）

测试 (Testing)

一旦机器重启并再次登录，我们可以使用 nvidia-smi 进行快速检查：

$ lspci -s 07:00.0 -v | grep Kernel

         Kernel driver in use: nvidia

         Kernel modules: nvidia 

$ 

$ lsmod | grep '^nouveau' 

$ 

$ lsmod | grep '^nvidia' 

nvidia_drm            126976  2 

nvidia_modeset       1605632  3 

nvidia_drm nvidia              60710912  29 nvidia_drm,nvidia_modeset 

$ 

$ nvidia-smi ... 

$

看起来一切正常。

Ollama

LLM RUNTIME ENVIRONMENT

接下来，我们需要安装 Ollama。Ollama 将允许我们加载本地 LLM。Ollama 是 llama.cpp 的包装器。5ire 支持 Ollama，但不支持 llama.cpp。

如果您不想执行 curl|bash，请参阅手动方法，或按照以下步骤安装 v0.15.2（在撰写本文时的最新版本）：

$ sudo apt install -y curl[...]$$ curl --fail --location https://ollama.com/download/ollama-linux-amd64.tar.zst > /tmp/ollama-linux-amd64.tar.zst[...]$$ file /tmp/ollama-linux-amd64.tar.zst/tmp/ollama-linux-amd64.tar.zst: Zstandard compressed data (v0.8+), Dictionary ID: None$ sha512sum /tmp/ollama-linux-amd64.tar.zst1c16259de4898a694ac23e7d4a3038dc3aebbbb8247cf30a05f5c84f2bde573294e8e612f3a9d5042201ebfe148f5b7fe64acc50f5478d3453f62f85d44593a1  /tmp/ollama-linux-amd64.tar.zst$$ sudo tar x -v --zstd -C /usr -f /tmp/ollama-linux-amd64.tar.zst[...]$$ sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama$$ sudo usermod -a -G ollama $(whoami)$$ cat <<EOF | sudo tee /etc/systemd/system/ollama.service >/dev/null[Unit]Description=Ollama ServiceAfter=network-online.target[Service]ExecStart=/usr/bin/ollama serveUser=ollamaGroup=ollamaRestart=alwaysRestartSec=3Environment="PATH=\$PATH"[Install]WantedBy=multi-user.targetEOF$$ sudo systemctl daemon-reload$$ sudo systemctl enable --now ollamaCreated symlink '/etc/systemd/system/multi-user.target.wants/ollama.service' → '/etc/systemd/system/ollama.service'.$$ systemctl status ollama● ollama.service - Ollama Service     Loaded: loaded (/etc/systemd/system/ollama.service; enabled; preset: disabled)     Active: active (running) since Tue 2026-01-27 14:44:39 GMT; 18s ago[...]$$ ollama -vollama version is 0.15.2$

服务报告处于活动且正在运行的状态（并且日志文件中没有任何异常）。

大语言模型 (LLM)

MODEL SELECTION

现在我们需要为 Ollama 运行一个 LLM！您可能会问，选哪个模型？是时候进行实验了！

我们需要一个支持“工具（Tools）”的模型。稍后我们将解释为什么这很重要。您的硬件将决定您可以运行多么复杂的模型。我们使用的硬件有 6GB VRAM，因此我们需要一个所需显存更小的模型尺寸。

我们选择了 3 个进行测试：llama3.1:8b、llama3.2:3b、qwen3:4b。

$ ollama list 

NAME            ID              SIZE    MODIFIED 

llama3.1:8b     46e0c10c039e    4.9 GB  8 minutes ago 

llama3.2:3b     a80c4f17acd5    2.0 GB  29 minutes ago 

qwen3:4b        359d7dd4bcda    2.5 GB  39 minutes ago $

测试 (Testing)

让我们测试一下 Ollama 是否正常工作：

$ ollama run qwen3:4b

当我们说“Hello world!”时，它做出了响应。我们可以通过执行以下命令检查 Ollama 的状态：

>>> Hello world!

Thinking... Okay, the user said "Hello world!" and wants me to respond. Let me think about how to approach this. First, I should acknowledge their greeting. Since they used the classic "Hello World!" which is often the first program in many programming languages, maybe I can relate that to my capabilities. I should make sure to keep the tone friendly andopenfor further conversation. Let me check if there's anything specific they might need help with. Maybe they're just testing me or want tostart a discussion. I'll keep the response simple and welcoming, inviting them to ask questions or share what they need help with. Also, I should avoid any markdown and keep it natural. Alright, time to put that together. 

...done thinking.  Hello! 😊 How can I assist you today? Whether you have questions, need help with something, or just want to chat, I'm here for you! What's on your mind?  

>>> /exit 

$

$ ollama psNAME        ID              SIZE      PROCESSOR    CONTEXT    UNTILqwen3:4b    359d7dd4bcda    3.5 GB    100% GPU     4096       4 minutes from now$

太好了，看来这里一切运转良好。

MCP 服务器 (MCP Kali Server)

KALI TOOLS API

我们现在需要安装并运行一个 MCP 服务器。对于本指南，我们对 Kali 进行了全新的最小化安装，这意味着没有任何预安装的工具。我们依然使用 mcp-kali-server：

$ sudo apt install -y mcp-kali-server dirb gobuster nikto nmap enum4linux-ng hydra john metasploit-framework sqlmap wpscan wordlists[...]$$ sudo gunzip -v /usr/share/wordlists/rockyou.txt.gz/usr/share/wordlists/rockyou.txt.gz:   61.9% -- replaced with /usr/share/wordlists/rockyou.txt$$ kali-server-mcp2026-01-27 15:54:01,339 [INFO] Starting Kali Linux Tools API Server on 127.0.0.1:5000 * Serving Flask app 'kali_server' * Debug mode: off2026-01-27 15:54:01,352 [INFO] WARNING: This is a development server. Do not use it in a production deployment. Use a production WSGI server instead. * Running on http://127.0.0.1:50002026-01-27 15:54:01,352 [INFO] Press CTRL+C to quit

从长远来看，有各种不同的方法可以让 kali-server-mcp 在后台运行（例如使用 tmux/screen 会话，或创建 systemd.unit）。

5ire 客户端配置

THE DESKTOP AI ASSISTANT

现在我们有了一个本地运行的 LLM，以及一个 MCP。Ollama（目前？）不支持 MCP，所以我们需要使用一些东西来弥合差距。这就是 5ire ——“一个很流行的 AI 助手和 MCP 客户端”。

下载 5ire 的 AppImage 并制作菜单项：

$ curl --fail --location https://github.com/nanbingxyz/5ire/releases/download/v0.15.3/5ire-0.15.3-x86_64.AppImage > 5ire-x86_64.AppImage[...]$$ file 5ire-x86_64.AppImage5ire-x86_64.AppImage: ELF 64-bit LSB executable, x86-64, version 1 (SYSV), dynamically linked, interpreter /lib64/ld-linux-x86-64.so.2, for GNU/Linux 2.6.18, stripped$ sha512sum 5ire-x86_64.AppImagebdf665fc6636da240153d44629723cb311bba4068db21c607f05cc6e1e58bb2e45aa72363a979a2aa165cb08a12db7babb715ac58da448fc9cf0258b22a56707  5ire-x86_64.AppImage$$ sudo mkdir -pv /opt/5ire/mkdir: created directory '/opt/5ire/'$$ sudo mv -v 5ire-x86_64.AppImage /opt/5ire/5ire-x86_64.AppImagerenamed '5ire-x86_64.AppImage' -> '/opt/5ire/5ire-x86_64.AppImage'$$ chmod -v 0755 /opt/5ire/5ire-x86_64.AppImagemode of '/opt/5ire/5ire-x86_64.AppImage' changed from 0664 (rw-rw-r--) to 0755 (rwxr-xr-x)$$ mkdir -pv ~/.local/share/applications/mkdir: created directory '/home/kali/.local/share/applications/'$$ cat <<EOF | tee ~/.local/share/applications/5ire.desktop >/dev/null[Desktop Entry]Name=5ireComment=5ire Desktop AI AssistantExec=/opt/5ire/5ire-x86_64.AppImageTerminal=falseType=ApplicationCategories=Utility;Development;StartupWMClass=5ireEOF$$ sudo ln -sfv /opt/5ire/5ire-x86_64.AppImage /usr/local/bin/5ire'/usr/local/bin/5ire' -> '/opt/5ire/5ire-x86_64.AppImage'$$ sudo apt install -y libfuse2t64[...]$

配置 5ire

现在我们需要配置 5ire 使用 Ollama (用于 LLM) 和 mcp-kali-server (MCP 服务器)：

打开 5ire，进入：Workspace -> Providers -> Ollama。选择 Ollama 模型，然后确保“Tools（工具）”和“Enabled（启用）”都已打开 -> Save (保存)。对每个模型重复此操作。

添加 MCP 客户端

我们可以使用 5ire 的图形界面添加 MCP：Tools -> Local。

填入以下内容：

• Name:
   mcp-kali-server
• Description:
   MCP Kali Server
• Command:
   /usr/bin/mcp-server

保存后，不要忘记启用它！

实战测试

END-TO-END PENTESTING TEST

新建聊天 -> 选择 Ollama。向它发送指令：

太棒了！扫描结果成功返回。

回顾 (Recap)

SUMMARY

• 在我们的 Kali 本地实例上，我们启用了用于开发的 GPU。
• 我们设置了 Ollama 并获取了一些 LLM，比如 qwen3:4b。
• 设置了一个 MCP 服务器：MCP-Kali-Server。
• 我们安装了图形界面客户端 5ire。
• 我们配置 5ire 使用 Ollama 的 LLM 以及作为 MCP 客户端连接到 mcp-kali-server。
• 然后我们使用这一切对 scanme.nmap.org 执行了 nmap 端口扫描……所有处理都在本地完成！

我们可能在谈论 AI，但这篇博文不是 AI 写的！