如果你已经用过一些 LLM SDK（其实我只用过Langchain），你会发现一个共性问题：模型调用很快能写出来，但“像样的聊天界面 + 会话管理 + 上线部署”这三件事会很快把代码变复杂。Chainlit就是专门解决这个问题的：用很少的 Python 代码把对话应用搭起来，并且保留足够的扩展能力。
好吧, 你可能说，我可以让AI生成前端呀, 但是吧, 一是它不一定符合你的需求, 二是它需要你去维护(维护很费成本的哦)，三是完善的前端很费token呢。
当然啦，也可以直接使用langchain自带的部署功能，不过还需要注册个账户，还不知道后面会不会额外收费，总的来说感觉差了一点什么，可能这是大多数流行应用不用langchain的原因?
其实langsmith的功能是真的棒，可是我就是不想注册个账户而已.
这个问题其实不是太复杂，可以通过在线的工具或者付费的工具完成，但是在线服务需要将文件上传到别人手里，而付费工具一般需要买会员，仅仅用一下就开个会员实在麻烦，再者批量搞起来也不方便，所以搜索了一下相关代码，代码是Python语言。
这应该是Pingora源码阅读的最后一篇文章，之前介绍了Pingora中两个比较重要的概念, Server和Service, 本篇文章着重于监听服务的钩子函数, 这也是我们主要写业务代码的地方。
上次主要阅读了Pingora的Server部分的代码, 本文阅读Pingora另一个比较重要的部分Service, Pingora内置两种服务background(后台)和Listening(监听), 本文着重后者。
要想深入Pingora应该是需要阅读源代码的，所以分析一下源代码，虽然Pingora没有提供丰富的示例，但是提供了一些不错的文档，比如它的internals.md文档，提供了很多细节和示意图，本系列文章会引用很多其中的示意图，Pingora的源码分析应该会分为2篇文章或更多。
Pingora一直是我比较期待的项目，所以写个入门系列教程吧。之前研究过一些其他产品，比如nginx, nginx-ingress, apisix, bfe等, 前三者植入业务基本靠lua或者说openresty 而bfe的社区实在是一言难尽, 所以我认为Pingora会成为Rust的明星项目，虽然没达到预期，但至少提供了一个框架，一个社区。
模板引擎很多时候还是很有用的，无论是后端渲染网页还是生成一些文本，其中以Jinja比较出名，而本文的Rust库askama正是Jinja的Rust版实现，如果你对Jinja的语法比较熟悉的话，使用askama应该不会太难上手。
除非是为了学习，不然数据的增删改查写起来是很无聊的，所以出现了相关的代码库，将这些操作给封装起来，Rust也是有类似的框架的，而且不止于此，比如本文的Loco.rs它提供类似Ruby on Rails的相关功能，可以很快的搭建起来一个后台。
这篇文章的内容其实和之前的文章《用Python发一封图文并茂的邮件》差不多，跟之前不同之处在于之前是使用Python来完成邮件的发送任务，而本文使用Rust发送邮件而已。
当服务暴露在公网的时候，要时刻注意安全，因为会有各种爆破工具在网上不间断的无差别攻击，所以需要做一定的防护措施，比如使用fail2ban这样的服务来屏蔽一些恶意流量，而fail2ban的逻辑并不复杂，所以用Rust写一个玩玩，就当练练手了。