[U] Update channel content

exports/hykilp/atom.xml

@@ -2,7 +2,7 @@
 <feed xmlns="http://www.w3.org/2005/Atom" xml:lang="zh-cn">
   <id>https://aza.moe/life</id>
   <title>小桂桂的回忆录 📒</title>
-  <updated>2024-08-13T10:09:40.705372+00:00</updated>
+  <updated>2024-08-13T12:09:52.927076+00:00</updated>
   <link href="https://aza.moe/life" rel="alternate"/>
   <generator uri="https://lkiesow.github.io/python-feedgen" version="0.9.0">python-feedgen</generator>
   <logo>https://aza.moe/meru_256px.png</logo>

exports/hykilp/posts.json

@@ -55603,7 +55603,7 @@
     "id": 4078,
     "date": "2024-06-29T11:52:39",
     "text": "?",
-    "views": 147,
+    "views": 148,
     "forwards": 4,
     "images": [
       {
@@ -55807,7 +55807,7 @@
     "id": 4091,
     "date": "2024-07-02T19:32:08",
     "text": "刚才在想日语的事情，然后想要喝水，边起身边想着: みず（mizu，水）... mizuki? みずき... 水木？mizuki 确实也可以写作水木诶，不过这个名字怎么这么眼熟？从哪里来的来着？查查好了\n\n然后发现是小时候父亲电脑上经常打开的水木清华 bbs <i class=\"custom-emoji\" emoji-src=\"emoji/6323315689444607430.webp\">☁️</i>\n\n脑回路乱弹",
-    "views": 109,
+    "views": 110,
     "forwards": 0,
     "forwarded_from": {
       "name": "废纸篓"
@@ -55911,14 +55911,14 @@
     "id": 4098,
     "date": "2024-07-04T21:36:28",
     "text": "在加拿大自杀报警会被带到医院急诊，等待心理医生过来进行诊断，判断是不是需要在精神科医院住院或者其他的治疗，不需要就可以回去了\n\n在中国自杀报警会被带到派出所，等熟人来，签文件盖指纹录一个视频，接下来出什么事就都是这个人的责任了",
-    "views": 118,
+    "views": 119,
     "forwards": 1
   },
   {
     "id": 4099,
     "date": "2024-07-05T15:48:35",
     "text": "拍到了睡着的蝴蝶 <i class=\"custom-emoji\" emoji-src=\"emoji/6170139473288890346.webm\">🤩</i>",
-    "views": 91,
+    "views": 92,
     "forwards": 0,
     "media_group_id": 13761556124439541,
     "images": [
@@ -56094,7 +56094,7 @@
     "id": 4112,
     "date": "2024-07-08T23:07:46",
     "text": "人生第一次训练大语言模型 <i class=\"custom-emoji\" emoji-src=\"emoji/6170139473288890346.webm\">🤩</i>",
-    "views": 94,
+    "views": 95,
     "forwards": 0,
     "images": [
       {
@@ -56113,7 +56113,7 @@
     "id": 4113,
     "date": "2024-07-09T09:47:13",
     "text": "训练了一天 Qwen2-7B pretrain lora 之后似乎可以和 pjsk 的大家说话了！\n\n（虽然还有很多要优化，但是可行性通过了 quq",
-    "views": 91,
+    "views": 92,
     "forwards": 0,
     "media_group_id": 13764147471161677,
     "images": [
@@ -57430,7 +57430,7 @@
     "id": 4210,
     "date": "2024-07-22T20:10:58",
     "text": "帮 syama 搬家搬到了苏州 qwq\n\nsyama 搬家好奇妙，当天来苏州刚看了一栋房就觉得还不错当场决定好签合同住进来了，然后马上打车回杭州打包东西叫货拉拉搬过来... <i class=\"custom-emoji\" emoji-src=\"emoji/6169979404152735531.webm\">❓</i> 好快！\n\n...然后发现这个房子有好多小问题，比如厕所很小没有地方可以放纸不被淋湿，厕所几乎没有抽风，窗户外面也是不太能通风的封闭小空间 <i class=\"custom-emoji\" emoji-src=\"emoji/6323315689444607430.webp\">☁️</i>\n\n果然租房不应该很快决定呢...",
-    "views": 86,
+    "views": 87,
     "forwards": 1,
     "media_group_id": 13773432467958797,
     "images": [
@@ -58651,7 +58651,7 @@
     "id": 4295,
     "date": "2024-08-09T03:18:49",
     "text": "<a href=\"##ML\">#ML</a> 今天把 Sekai LLM 的大模型部署到新的 V100 服务器上了！\n\n为了最大化部署效率试了很多不同的框架，首先看到了别人的<a href=\"https://bentoml.com/blog/benchmarking-llm-inference-backends\">测试结果</a>，大概是 LMDeploy 效率最高，其次是 MLC，再其次是 vLLM。所以我首先试了 LMDeploy，然后遇到了一堆问题...\n\n首先试了 vLLM 因为它是星星<i class=\"custom-emoji\" emoji-src=\"emoji/6107338590335799902.webp\">⭐️</i>最多的，但是发现它会提示内存不够，即使在 24GB 的 4090 上加载 4bit 量化过的模型都提示内存不够（量化过之后用一般的 HF Transformers 加载只需要 8GB 多一点的显存）可能 vLLM 在尝试把 Qwen2 的 128K 上下文全都预留出来吧，那肯定是不够的。试了各种解决方案都跑不起来就放弃了 <i class=\"custom-emoji\" emoji-src=\"emoji/6323582802050680516.webp\">🛌</i>\n\n把训练好的 7B LoRA 模型文件挪到新机器上之后跑 LMD 发现 16GB 显存不够，确实不够，那试试两个显卡一起吧，然后直接 segfault 崩溃了 <i class=\"custom-emoji\" emoji-src=\"emoji/6323343426343404864.webp\">❓</i> 那用 AWQ 量化到 4bit 之后总可以了吧？发现输出是乱码，去 issue 里面查才发现最新版本的 LMD 还不支持 V100 AWQ <i class=\"custom-emoji\" emoji-src=\"emoji/6323582802050680516.webp\">🛌</i> 但是已经有人加了支持，开了一个 <a href=\"https://github.com/InternLM/lmdeploy/pull/2090\">+12120 -4990 的巨大 PR</a> 还没有合进去，那试试吧？发现用这个 PR 的话 AWQ 可以跑了但是很慢，而且多卡还是会崩溃... 算了算了换别的试试吧\n\n最后试了 MLC，从量化到运行没有遇到任何问题，多显卡推理也是加一个参数没有调其他的就成功了，每个请求 0.43 秒的性能也相当不错。不过发现多加一张 V100 在没有批量的情况下跑张量并行只能提升 13% 的性能，基本上就只能作为一张显存更大的 V100 用... 还是对 Sxm2 的带宽好失望，不过也很够用啦",
-    "views": 71,
+    "views": 72,
     "forwards": 0,
     "media_group_id": 13785388234834757,
     "images": [
@@ -59043,7 +59043,7 @@
     "id": 4322,
     "date": "2024-08-13T04:56:19",
     "text": "行会会长是雕像",
-    "views": 44,
+    "views": 45,
     "forwards": 0,
     "images": [
       {
@@ -59062,7 +59062,7 @@
     "id": 4323,
     "date": "2024-08-13T05:35:06",
     "text": "入坑了 ff14! 我是魔法大猫咪 <i class=\"custom-emoji\" emoji-src=\"emoji/5443042995165209696.tgs\">🧙‍♂</i>\n\n目前在国际版日服免费试玩过了新手村，感觉这个游戏作为 2010 年的游戏真的很有年代感了，入坑之前有期待过的画质还是剧情还是玩法都有些失望。\n\n画质作为那个时代的作品不算差，但是实在太一般了，很多材质面数都出奇的低，光影阴影也很生硬，走路动作没有过渡，嘴唇动作也不跟语音... 椅子还不能坐 <i class=\"custom-emoji\" emoji-src=\"emoji/5444876709977398781.tgs\">😸</i> <del>要是 ff14 有 optifine / iris 就好了</del>\n\n玩法的话，完全没有策略。如果说博门 3 的战斗像下一盘棋，那 ff14 的战斗就像打扫房间。小任务打野怪只要开局做体操、中间反反复复地点输出、掉了血就回血，数值够自然就能赢，数值不够再想办法也打不过。多人战斗虽然手忙脚乱，但是也只是看谁血低给谁回血就好了，不会打完全因为 ADHD <i class=\"custom-emoji\" emoji-src=\"emoji/5445397062445178872.tgs\">😓</i> 不用大模型，一个条件判断脚本就能比我打得好了\n\n不过新手村也不是全部，也有些期待之后的剧情或者技能多起来之后的战斗会有所不同。而且可能玩 ff14 的感觉像以前玩 minecraft 一样，游戏乐趣很大程度来源于社交吧 quq",
-    "views": 32,
+    "views": 33,
     "forwards": 0,
     "media_group_id": 13788218452876189,
     "images": [

exports/hykilp/rss.xml

@@ -12,7 +12,7 @@
       <link>https://aza.moe/life</link>
     </image>
     <language>zh-cn</language>
-    <lastBuildDate>Tue, 13 Aug 2024 10:09:40 +0000</lastBuildDate>
+    <lastBuildDate>Tue, 13 Aug 2024 12:09:52 +0000</lastBuildDate>
     <item>
       <title>小桂桂的回忆录 📒 #4323</title>
       <link>https://aza.moe/life?post=4323</link>