[U] Update channel content

2024-09-07 18:11:57 +00:00
parent 7a9260be0d
commit aeecdd4cd9
6 changed files with 69 additions and 30 deletions
@@ -2,11 +2,18 @@
 <feed xmlns="http://www.w3.org/2005/Atom" xml:lang="zh-cn">
  <id>https://aza.moe/life</id>
  <title>小桂桂的回忆录 📒</title>
-  <updated>2024-09-07T16:09:03.121575+00:00</updated>
+  <updated>2024-09-07T18:11:53.929873+00:00</updated>
  <link href="https://aza.moe/life" rel="alternate"/>
  <generator uri="https://lkiesow.github.io/python-feedgen" version="0.9.0">python-feedgen</generator>
  <logo>https://aza.moe/meru_256px.png</logo>
  <subtitle>「我们所经历的每个平凡的日常，也许就是连续发生的奇迹」</subtitle>
+  <entry>
+    <id>4404</id>
+    <title>小桂桂的回忆录 📒 #4404</title>
+    <updated>2024-09-07T16:44:12+00:00</updated>
+    <content>&lt;p&gt;现在解 25*30 只需要 23 分钟了！&lt;/p&gt;</content>
+    <link href="https://aza.moe/life?post=4404" rel="alternate"/>
+  </entry>
  <entry>
    <id>4403</id>
    <title>小桂桂的回忆录 📒 #4403</title>
@@ -180,7 +180,7 @@
    "id": 20,
    "date": "2021-09-07T02:56:12",
    "text": "哪里都去不了",
-    "views": 55,
+    "views": 56,
    "forwards": 0,
    "media_group_id": 13047866977537533,
    "images": [
@@ -58651,7 +58651,7 @@
    "id": 4295,
    "date": "2024-08-09T03:18:49",
    "text": "<a href=\"##ML\">#ML</a> 今天把 Sekai LLM 的大模型部署到新的 V100 服务器上了！\n\n为了最大化部署效率试了很多不同的框架，首先看到了别人的<a href=\"https://bentoml.com/blog/benchmarking-llm-inference-backends\">测试结果</a>，大概是 LMDeploy 效率最高，其次是 MLC，再其次是 vLLM。所以我首先试了 LMDeploy，然后遇到了一堆问题...\n\n首先试了 vLLM 因为它是星星<i class=\"custom-emoji\" emoji-src=\"emoji/6107338590335799902.webp\">⭐️</i>最多的，但是发现它会提示内存不够，即使在 24GB 的 4090 上加载 4bit 量化过的模型都提示内存不够（量化过之后用一般的 HF Transformers 加载只需要 8GB 多一点的显存）可能 vLLM 在尝试把 Qwen2 的 128K 上下文全都预留出来吧，那肯定是不够的。试了各种解决方案都跑不起来就放弃了 <i class=\"custom-emoji\" emoji-src=\"emoji/6323582802050680516.webp\">🛌</i>\n\n把训练好的 7B LoRA 模型文件挪到新机器上之后跑 LMD 发现 16GB 显存不够，确实不够，那试试两个显卡一起吧，然后直接 segfault 崩溃了 <i class=\"custom-emoji\" emoji-src=\"emoji/6323343426343404864.webp\">❓</i> 那用 AWQ 量化到 4bit 之后总可以了吧？发现输出是乱码，去 issue 里面查才发现最新版本的 LMD 还不支持 V100 AWQ <i class=\"custom-emoji\" emoji-src=\"emoji/6323582802050680516.webp\">🛌</i> 但是已经有人加了支持，开了一个 <a href=\"https://github.com/InternLM/lmdeploy/pull/2090\">+12120 -4990 的巨大 PR</a> 还没有合进去，那试试吧？发现用这个 PR 的话 AWQ 可以跑了但是很慢，而且多卡还是会崩溃... 算了算了换别的试试吧\n\n最后试了 MLC，从量化到运行没有遇到任何问题，多显卡推理也是加一个参数没有调其他的就成功了，每个请求 0.43 秒的性能也相当不错。不过发现多加一张 V100 在没有批量的情况下跑张量并行只能提升 13% 的性能，基本上就只能作为一张显存更大的 V100 用... 还是对 Sxm2 的带宽好失望，不过也很够用啦",
-    "views": 91,
+    "views": 92,
    "forwards": 0,
    "media_group_id": 13785388234834757,
    "images": [
@@ -58681,7 +58681,7 @@
    "id": 4297,
    "date": "2024-08-09T05:03:32",
    "text": "今天七七在 AquaDX 群里说 AquaDX 的群头像看起来总感觉像是没加载出来的模糊图的样子，怎么办呢？正好昨天是国际猫猫日，让 DALLE 在里面填一些猫吧",
-    "views": 94,
+    "views": 104,
    "forwards": 0,
    "images": [
      {
@@ -58700,7 +58700,7 @@
    "id": 4298,
    "date": "2024-08-09T07:26:45",
    "text": "看数一在玩 <a href=\"https://www.puzzle-loop.com/\">Slither Link</a> 我也去试了试，好难 <i class=\"custom-emoji\" emoji-src=\"emoji/6323267916523374069.webp\">🥺</i> 每日谜题花了 1:42 小时才做出来\n\n（放一个 100 倍速的视频",
-    "views": 106,
+    "views": 116,
    "forwards": 2,
    "files": [
      {
@@ -58722,7 +58722,7 @@
    "id": 4299,
    "date": "2024-08-09T08:48:10",
    "text": "<a href=\"##戴上耳机\">#戴上耳机</a>\n神のまにまに！\n\n今天打プロセカ发现的这首歌，好久没有听到这么欢乐治愈的ボカロ曲了 qwq\n\n<a href=\"https://www.youtube.com/watch?v=b2GJcYBoVyg\">原曲MV</a> | <a href=\"https://www.youtube.com/watch?v=cb1s5_U0wd0\">プロセカ 3DMV</a>",
-    "views": 104,
+    "views": 114,
    "forwards": 0,
    "files": [
      {
@@ -58744,14 +58744,14 @@
    "id": 4300,
    "date": "2024-08-09T21:36:19",
    "text": "奇妙，我在 VSCode 上连接 SSH 终端，在 SSH 那边打了一个 git push，它弹了一个窗口在本地打开浏览器选择账号登录，然后跳转连接跳转回了 VSCode 过一会 push 成功了... 现在 VSCode 的集成已经这么厉害了吗 <i class=\"custom-emoji\" emoji-src=\"emoji/6170139473288890346.webm\">🤩</i>",
-    "views": 98,
+    "views": 107,
    "forwards": 0
  },
  {
    "id": 4301,
    "date": "2024-08-09T23:44:01",
    "text": "<i class=\"custom-emoji\" emoji-src=\"emoji/6323267916523374069.webp\">🥺</i>",
-    "views": 128,
+    "views": 135,
    "forwards": 2,
    "images": [
      {
@@ -58770,7 +58770,7 @@
    "id": 4302,
    "date": "2024-08-10T06:43:02",
    "text": "<a href=\"##ML\">#ML</a> 之前模型还部署在 menci 学校机器上的时候，发现它有一个很大的问题就是说话人非常不准，比如你找瑞希说话的时候突然初音出来说话了...\n\n前几天决定测一下这个问题，写脚本给每个队伍生成了 200 组测试数据，每条是一个随机的人问另一个人最近过得怎么样（比如”絵名：瑞希你最近怎么样？“）让模型生成下一句，看看回复的人对不对。测试出来发现最高居然只有 70% 正确率，明明是这么基础的对话逻辑...\n\n然而昨天把推理库换从 LMD 换成 MLC 之后，测速的时候偶然发现似乎每一条都是正确的，即使运气好也不应该这样。测一下好了，然后发现 MLC 的回复人准确率到了 98% <i class=\"custom-emoji\" emoji-src=\"emoji/6323275213672810256.webp\">😀</i>\n\n第一次知道原来推理库不止影响模型速度，对回复质量影响也这么大",
-    "views": 88,
+    "views": 92,
    "forwards": 0,
    "reply": {
      "id": 4295,
@@ -58794,7 +58794,7 @@
    "id": 4303,
    "date": "2024-08-10T07:22:00",
    "text": "发现自己做研究的时候，找到一个比较好的方案就不是很有动力再去从零开始尝试其他的方案了，只会去想办法优化这个方案，因为做新的尝试会消耗很多时间精力和计算资源，也不一定会更好... 可是如果不尝试，即使有更好的方案也没办法知道 <i class=\"custom-emoji\" emoji-src=\"emoji/6323582802050680516.webp\">🛌</i>\n\n<span class=\"spoiler\"><span>也许人类这个集体就是某种分布式的梯度下降算法，每个人都只会从其他人知识库的顶端继续向下走，直到慢慢在某个局部最低点聚合。真的从零开始走少经之路的人没办法获得资源，靠自己也做不到什么吧...\n\n暴论一下，如果我们的现实是某种模拟的话，我大概理解为什么会有人想要模拟一切事物从零发展了。解决梯度下降卡住一个很常用的办法就是模拟很多次，从不同的随机起点重新跑... 也许我们的现实就是随机起点之一吧</span></span> <i class=\"custom-emoji\" emoji-src=\"emoji/5445083289314401705.tgs\">🪟</i>",
-    "views": 88,
+    "views": 91,
    "forwards": 0,
    "reply": {
      "id": 4302,
@@ -58805,7 +58805,7 @@
    "id": 4304,
    "date": "2024-08-11T07:18:27",
    "text": "<a href=\"##桂桂今天吃什么\">#桂桂今天吃什么</a> （昨天？\n看到信达超市的鸡皮又有货了就做了烤鸡皮 <i class=\"custom-emoji\" emoji-src=\"emoji/6170139473288890346.webm\">🤩</i> $2 够两个人吃两顿好便宜\n\n之前很长一段时间都下架了（x",
-    "views": 80,
+    "views": 83,
    "forwards": 0,
    "media_group_id": 13786885663459205,
    "images": [
@@ -58845,7 +58845,7 @@
    "id": 4307,
    "date": "2024-08-11T07:23:28",
    "text": "今天去 Queer St West 逛逛，好喜欢这条街的气氛，很热闹，到处都是很好看的涂鸦 qwq",
-    "views": 82,
+    "views": 87,
    "forwards": 0,
    "media_group_id": 13786888068125157,
    "images": [
@@ -58905,14 +58905,14 @@
    "id": 4312,
    "date": "2024-08-11T07:38:53",
    "text": "白天困困，躺在床上就不困了 <i class=\"custom-emoji\" emoji-src=\"emoji/6323315689444607430.webp\">☁️</i>",
-    "views": 84,
+    "views": 85,
    "forwards": 0
  },
  {
    "id": 4313,
    "date": "2024-08-11T07:50:23",
    "text": "起床觅食有被拐角的新叶喵吓到 <i class=\"custom-emoji\" emoji-src=\"emoji/6323556186138346934.webp\">😢</i>\n\n...以及拍照的时候手机没拿稳拍出了奇妙照片 quq",
-    "views": 98,
+    "views": 99,
    "forwards": 0,
    "media_group_id": 13786900988263349,
    "images": [
@@ -59592,7 +59592,7 @@
    "id": 4359,
    "date": "2024-08-23T15:09:03",
    "text": "<a href=\"##桂桂今天吃什么\">#桂桂今天吃什么</a>\n把鸡腿去骨之后剩下的骨头扔掉感觉有点浪费，就试着用来炖了汤做鸡汤面... 吃一口后悔没有用鸡肉炖 <i class=\"custom-emoji\" emoji-src=\"emoji/6323556186138346934.webp\">😢</i>",
-    "views": 125,
+    "views": 127,
    "forwards": 0,
    "images": [
      {
@@ -59611,14 +59611,14 @@
    "id": 4360,
    "date": "2024-08-25T02:05:16",
    "text": "为什么最近每次见别人约饭都会聊起多伦多跨圈的 drama... <i class=\"custom-emoji\" emoji-src=\"emoji/6323556186138346934.webp\">😢</i>",
-    "views": 115,
+    "views": 117,
    "forwards": 3
  },
  {
    "id": 4361,
    "date": "2024-08-25T03:59:58",
    "text": "useless cat <i class=\"custom-emoji\" emoji-src=\"emoji/6169958075345144164.webm\">🫣</i>",
-    "views": 110,
+    "views": 111,
    "forwards": 1,
    "images": [
      {
@@ -60004,7 +60004,7 @@
    "id": 4386,
    "date": "2024-09-02T00:49:34",
    "text": "收到了 Celestium 的礼物，是一个看起来像天球仪的永动摆，好好看 qwq <span class=\"spoiler\"><span>是某种对 ADHD 宝具</span></span>\n\n它原本需要装一个 9V 电池，但是买来了一个是坏的，而且感觉用电池供电好浪费，所以直接把电池线剪掉焊了一个 DC 接口上去改成 12V 接线了，既让磁力更强又不用担心会没电了 <i class=\"custom-emoji\" emoji-src=\"emoji/5443042995165209696.tgs\">🧙‍♂</i>",
-    "views": 141,
+    "views": 142,
    "forwards": 2,
    "media_group_id": 13801905399622605,
    "files": [
@@ -60040,7 +60040,7 @@
    "id": 4388,
    "date": "2024-09-03T16:34:30",
    "text": "之前一直不太懂为什么一些淘宝卖家卖两三块钱的东西可以包邮，自己寄东西邮费邮费就至少 ￥8\n\n今天去群里问了问，群友告诉我批量发货可以很大程度降低运费，一次发货两件就能每件便宜 ￥1.3 了，大商家一次发几百几千件肯定能拿到更便宜的价格 <i class=\"custom-emoji\" emoji-src=\"emoji/6170139473288890346.webm\">🤩</i>\n\n以及不知道为什么面向商家的 <a href=\"fahuo.cainiao.com\">fahuo.cainiao.com</a> 即使只寄一件也比面向客户的菜鸟 App 上的价格便宜，奇妙",
-    "views": 90,
+    "views": 92,
    "forwards": 1,
    "images": [
      {
@@ -60059,7 +60059,7 @@
    "id": 4389,
    "date": "2024-09-03T20:28:35",
    "text": "今年也是，很荣幸地翘掉了开学第一天的第一节课 <i class=\"custom-emoji\" emoji-src=\"emoji/5469634808437021491.webp\">😴</i>",
-    "views": 118,
+    "views": 121,
    "forwards": 3,
    "reply": {
      "id": 1720,
@@ -60082,7 +60082,7 @@
    "id": 4390,
    "date": "2024-09-03T20:35:57",
    "text": "唉 一年半前鸡腿好便宜，居然 $0.99/lb... 现在要 $2.5/lb 了\n\n早知道当时多买几十袋了",
-    "views": 86,
+    "views": 87,
    "forwards": 0,
    "reply": {
      "id": 1719,
@@ -60093,7 +60093,7 @@
    "id": 4391,
    "date": "2024-09-04T02:34:26",
    "text": "每次在网上下单沃尔玛都会送来一堆购物袋... 感觉扔掉很浪费，所以今天去了一趟沃尔玛，把多余的一袋购物袋放在自助结账那里了\n\n原本问了店员，店员没见过返还袋子的人就说不收，所以就放在自助结账了，看到确实有人会拿 qwq",
-    "views": 85,
+    "views": 90,
    "forwards": 0,
    "images": [
      {
@@ -60159,14 +60159,14 @@
    "id": 4396,
    "date": "2024-09-04T16:54:56",
    "text": "草 和 syama 视频，给她买外卖买了炒面，她取外卖的时候我也闻到了味道，然后想了想不对啊我怎么会闻到味道，然后就闻不到味道了 🌚\n\n原来我的鼻子长在脑子里",
-    "views": 76,
+    "views": 77,
    "forwards": 1
  },
  {
    "id": 4397,
    "date": "2024-09-05T01:50:56",
    "text": "呜呜呜 被供应链攻击断药了，贴片厂生产不出贴片了，报告说预计两个月之后才能恢复...\n\n赶快联系医生换了针剂 <i class=\"custom-emoji\" emoji-src=\"emoji/5445397062445178872.tgs\">😓</i> 可是我怕针怎么办呜呜",
-    "views": 80,
+    "views": 81,
    "forwards": 1,
    "images": [
      {
@@ -60185,7 +60185,7 @@
    "id": 4398,
    "date": "2024-09-05T06:37:56",
    "text": "唉 我好喜欢一两年前 OpenAI 主页很独特的网页配色风格，今天和聊聊聊到这个设计的时候突然发现现在的 OpenAI 主页已经变成了普普通通的卡片设计... 好可惜",
-    "views": 92,
+    "views": 94,
    "forwards": 2,
    "media_group_id": 13804146213977677,
    "images": [
@@ -60225,7 +60225,7 @@
    "id": 4401,
    "date": "2024-09-06T15:39:04",
    "text": "<i class=\"custom-emoji\" emoji-src=\"emoji/6323556186138346934.webp\">😢</i><i class=\"custom-emoji\" emoji-src=\"emoji/6323556186138346934.webp\">😢</i><i class=\"custom-emoji\" emoji-src=\"emoji/6323556186138346934.webp\">😢</i><i class=\"custom-emoji\" emoji-src=\"emoji/6323556186138346934.webp\">😢</i><i class=\"custom-emoji\" emoji-src=\"emoji/6323556186138346934.webp\">😢</i>",
-    "views": 64,
+    "views": 67,
    "forwards": 1,
    "images": [
      {
@@ -60244,14 +60244,14 @@
    "id": 4402,
    "date": "2024-09-06T21:11:00",
    "text": "哇！Python 3.13 要把 GIL (Global Interpreter Lock) 去掉了！马上就可以在 Python 里面很方便地用多核跑多线程工作流了！也不再需要启动子进程了...\n\n马上下载一个试试 qwq",
-    "views": 44,
+    "views": 54,
    "forwards": 0
  },
  {
    "id": 4403,
    "date": "2024-09-06T23:01:40",
    "text": "还在想怎样爬 arXiv，然后发现官方发布过完整的数据 dump 直接下载就能用了 <i class=\"custom-emoji\" emoji-src=\"emoji/6170139473288890346.webm\">🤩</i>\n\n唉，互联网怎么会有这么良心的组织，看看别的同样是托管用户内容的平台在想尽办法反爬虫，这边甚至不用爬...",
-    "views": 42,
+    "views": 54,
    "forwards": 0,
    "images": [
      {
@@ -60265,5 +60265,31 @@
        "thumb": "media/4403.jpg_thumb.jpg"
      }
    ]
+  },
+  {
+    "id": 4404,
+    "date": "2024-09-07T16:44:12",
+    "text": "现在解 25*30 只需要 23 分钟了！",
+    "views": 32,
+    "forwards": 0,
+    "reply": {
+      "id": 4298,
+      "text": "看数一在玩 <a href=\"https://www.puzzle-loop.com/\">Slither Link</a> 我也去试了试，好难 <i class=\"custom-emoji\" emoji-src=\"emoji/6323267916523374069.webp\">🥺</i> 每日谜题花了 1:42 小时才做出来\n\n（放一个 100 倍速的视频"
+    },
+    "files": [
+      {
+        "file_name": "out.mp4",
+        "mime_type": "video/mp4",
+        "date": "2024-09-07T16:44:12",
+        "width": 1532,
+        "height": 1998,
+        "duration": 72,
+        "media_type": "animation",
+        "original_name": "out.mp4",
+        "url": "media/4404.mp4",
+        "size": 5940250,
+        "thumb": "media/4404.mp4_thumb.jpg"
+      }
+    ]
  }
 ]
@@ -12,7 +12,13 @@
      <link>https://aza.moe/life</link>
    </image>
    <language>zh-cn</language>
-    <lastBuildDate>Sat, 07 Sep 2024 16:09:03 +0000</lastBuildDate>
+    <lastBuildDate>Sat, 07 Sep 2024 18:11:53 +0000</lastBuildDate>
+    <item>
+      <title>小桂桂的回忆录 📒 #4404</title>
+      <link>https://aza.moe/life?post=4404</link>
+      <description>&lt;p&gt;现在解 25*30 只需要 23 分钟了！&lt;/p&gt;</description>
+      <guid isPermaLink="false">4404</guid>
+    </item>
    <item>
      <title>小桂桂的回忆录 📒 #4403</title>
      <link>https://aza.moe/life?post=4403</link>