海水淡化:沿海城市缺水的终极方案和成本账
海水淡化是水资源短缺的终极解决方案。
中国沿海 11 个省份中 9 个缺水。北方尤其严重,人均水资源量不到全国平均的三分之一。海水淡化解的是"沿海城市没淡水"的问题。
技术路线主要两种。反渗透法(RO):用高压把海水挤过半透膜,盐分被挡住,出来的就是淡水。占全球装机 70% 以上。能耗低(每吨 3-5 度电),但膜要定 ...
自建推理服务器半年了算下来真比调API省一半
上个月底算了下账,我们公司那台双4090的推理服务器,从三月跑到现在,电费加折旧摊下来一个月一千七左右。之前调API的时候,光知识库问答这一块每个月就小四千,还没算图片理解的量。
当时下单的时候家里人还说我败家,整机三万六,说这钱够交十年API。结果六个月跑下来真香,现在客服机器人、合同摘要、周报生成全挤在 ...
用LM Studio图形界面跑本地大模型:比命令行省事的替代方案
前面写过用llama.cpp命令行跑模型,但不是所有人都喜欢对着终端敲命令。LM Studio是个图形界面的本地大模型运行工具,底层也是llama.cpp,但封装得很好,鼠标点点就能跑。
安装直接去官网下,Windows和Mac都有。装完之后在搜索栏里直接搜HuggingFace上的GGUF模型,比如搜Qwen2.5或Llama3,结果列表里会标出量化版本和文 ...
用Open WebUI管理多个本地大模型:切换和对话和历史记录一站搞定
本地跑了几个模型之后管理起来很麻烦,每个模型的接口、端口、参数都不一样。Open WebUI解决这个问题,它是个Web界面,可以连Ollama、llama.cpp后端、甚至OpenAI兼容API,一个页面管所有模型。
部署很简单,Docker一行命令就起来了:
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open ...
最后一公里配送AI路径规划:每个快递员每天少跑二十公里
我有个朋友在顺丰做站点主管,上周吃饭聊起来说他们站上个月上了套AI路径规划的系统,效果比预想的好太多。以前一个快递员一天跑八十多公里送一百多件,现在系统把路线重新排了一遍,同样一百件货只要跑六十公里出头,省出来的时间还能多送十来件。
他说这个系统其实是把每个收件地址的经纬度、签收习惯、小区门禁位置、 ...
本地跑Llama3-70B量化版:消费级显卡用llama.cpp跑通完整教程
折腾了三天终于在一张RTX 3090上把Llama3-70B跑起来了,记录一下过程给想省API钱的兄弟们参考。
70B模型全精度要140G显存,消费级显卡肯定装不下。用llama.cpp的GGUF格式Q4_K_M量化,模型文件压到了40G左右。3090有24G显存,全装进显存不够,llama.cpp支持部分卸载到内存,设n_gpu_layers为40左右,速度大概每秒4到5个to ...
smali代码审计:从AndroidManifest到权限漏洞挖掘的思路
apktool反编译出来的smali代码看着头疼,但找漏洞其实有套路。这篇说说我做审计的思路。
第一步永远先看AndroidManifest.xml。重点看几个东西:exported为true的组件有没有做权限校验,有没有配intent-filter的Activity和Service暴露给外部,有没有grantUriPermission。很多越权漏洞就是因为一个exported的Activity没做 ...
安卓NDK开发到逆向:编译一个带native加密的so然后自己破自己
学逆向最好的方式就是自己写一个加密逻辑编译成so然后自己破。这篇走一遍完整流程。
先写一个简单的native加密函数。用Android Studio建个NDK项目,CMakeLists里配好,在native-lib.cpp里写个函数,输入字符串做异或加密再返回。编译出来的so叫libnative-lib.so,扔到jadx里看Java层会看到native方法声明。
逆向工具上j ...
AI设计芯片布局布线:半年省出三个月工期但工程师还没失业
芯片设计这块最近变化挺大的。以前芯片布局布线是工程师手动调的,一个几十亿晶体管的芯片,布局要花好几个月,布线更长。现在AI能自动做布局规划,Synopsys的DSO.ai和Cadence的Cerebrus都在推,据说能把布局周期缩短三分之一。
Google的AlphaChip更激进,去年发论文说他们用强化学习做TPU的布局,效果比人类工程师好。 ...
AI预测新材料结构:从电池正极到催化剂研发周期缩短一半
前两天看到Google DeepMind发了篇论文,说他们用AI预测了二百多万种新材料的晶体结构,这个数字挺吓人的。以前材料科学家靠试错法找一个新材料,从假设到合成到验证,运气好的几个月,运气不好的搞几年。现在AI先把可能的结构筛一遍,实验直接从最可能的几个开始做。
不只是Google,国内这边也在跟。宁德时代去年就公开 ...