[U] Update channel content

2024-11-26 12:11:51 +00:00
parent c92c8a404e
commit 2a8ef9c92d
4 changed files with 38 additions and 38 deletions
@@ -2,7 +2,7 @@
 <feed xmlns="http://www.w3.org/2005/Atom" xml:lang="zh-cn">
  <id>https://aza.moe/life</id>
  <title>小桂桂的回忆录 📒</title>
-  <updated>2024-11-26T10:12:20.565994+00:00</updated>
+  <updated>2024-11-26T12:11:47.092169+00:00</updated>
  <link href="https://aza.moe/life" rel="alternate"/>
  <generator uri="https://lkiesow.github.io/python-feedgen" version="0.9.0">python-feedgen</generator>
  <logo>https://aza.moe/meru_256px.png</logo>
@@ -58425,7 +58425,7 @@
    "id": 4279,
    "date": "2024-08-04T20:17:22",
    "text": "<a href=\"##戴上耳机\">#戴上耳机</a>\n听听民谣团 ハンバート ハンバート 的佐野遊穂唱 rap，好可爱好可爱！！！<i class=\"custom-emoji\" emoji-src=\"emoji/6323267916523374069.webp\">🥺</i>",
-    "views": 126,
+    "views": 128,
    "forwards": 0,
    "files": [
      {
@@ -58447,7 +58447,7 @@
    "id": 4280,
    "date": "2024-08-04T20:25:34",
    "text": "回到加拿大的家发现家变成了盒盒... 整理起来还好麻烦 ;-;\n\n<span class=\"spoiler\"><span>一想到明年三月还要搬走就不想把所有东西都摆出来了...</span></span>",
-    "views": 142,
+    "views": 144,
    "forwards": 0,
    "images": [
      {
@@ -58466,7 +58466,7 @@
    "id": 4281,
    "date": "2024-08-05T03:55:00",
    "text": "debug 了半天为什么 arch 输出没有声音，看了文档还问了群友...\n\n然后发现只是声音太小了 🌚",
-    "views": 137,
+    "views": 139,
    "forwards": 0,
    "images": [
      {
@@ -58485,7 +58485,7 @@
    "id": 4282,
    "date": "2024-08-06T04:28:46",
    "text": "鬼故事，2017 已经是七年前了",
-    "views": 129,
+    "views": 132,
    "forwards": 0,
    "images": [
      {
@@ -58504,14 +58504,14 @@
    "id": 4283,
    "date": "2024-08-06T08:53:55",
    "text": "升级计算服务器之前硬件是瓶颈，升级之后发现自己变成了瓶颈... 想睡觉之前挂一个计算任务跑着，发现写这个任务需要的时间比计算需要的时间长，可是我又不想让计算闲时浪费，结果就是自己要被累死了 <i class=\"custom-emoji\" emoji-src=\"emoji/6323582802050680516.webp\">🛌</i>",
-    "views": 125,
+    "views": 129,
    "forwards": 1
  },
  {
    "id": 4284,
    "date": "2024-08-07T22:28:04",
    "text": "和聊聊去附近新开的模玩店买了一个镜音凛的粘土人 qwq 它的包装打开是不透明的铝反光小袋子，看起来是为了抽盲盒设计的，还好没有作为盲盒卖\n\n运气太差了不喜欢盲盒，记得几天前和 menci 和 syama 去观前喵咕屋买了プロセカ和孤独摇滚的盲盒胸针，结果孤独摇滚开出了没什么存在感的きくり，プロセカ开出了不那么能认出来的初音未来和 KAITO...\n(╯’ – ‘)╯︵ ┻━┻",
-    "views": 108,
+    "views": 110,
    "forwards": 0,
    "media_group_id": 13784557476954909,
    "images": [
@@ -58591,7 +58591,7 @@
    "id": 4291,
    "date": "2024-08-07T23:38:26",
    "text": "第一次在加拿大见到路边摊",
-    "views": 112,
+    "views": 113,
    "forwards": 0,
    "media_group_id": 13784591251588581,
    "images": [
@@ -58621,7 +58621,7 @@
    "id": 4293,
    "date": "2024-08-08T04:59:22",
    "text": "让 DALLE 画了一些服务器的图标，终于不怕找不到标签页了",
-    "views": 98,
+    "views": 99,
    "forwards": 0,
    "media_group_id": 13784745301187333,
    "images": [
@@ -58651,7 +58651,7 @@
    "id": 4295,
    "date": "2024-08-09T03:18:49",
    "text": "<a href=\"##ML\">#ML</a> 今天把 Sekai LLM 的大模型部署到新的 V100 服务器上了！\n\n为了最大化部署效率试了很多不同的框架，首先看到了别人的<a href=\"https://bentoml.com/blog/benchmarking-llm-inference-backends\">测试结果</a>，大概是 LMDeploy 效率最高，其次是 MLC，再其次是 vLLM。所以我首先试了 LMDeploy，然后遇到了一堆问题...\n\n首先试了 vLLM 因为它是星星<i class=\"custom-emoji\" emoji-src=\"emoji/6107338590335799902.webp\">⭐️</i>最多的，但是发现它会提示内存不够，即使在 24GB 的 4090 上加载 4bit 量化过的模型都提示内存不够（量化过之后用一般的 HF Transformers 加载只需要 8GB 多一点的显存）可能 vLLM 在尝试把 Qwen2 的 128K 上下文全都预留出来吧，那肯定是不够的。试了各种解决方案都跑不起来就放弃了 <i class=\"custom-emoji\" emoji-src=\"emoji/6323582802050680516.webp\">🛌</i>\n\n把训练好的 7B LoRA 模型文件挪到新机器上之后跑 LMD 发现 16GB 显存不够，确实不够，那试试两个显卡一起吧，然后直接 segfault 崩溃了 <i class=\"custom-emoji\" emoji-src=\"emoji/6323343426343404864.webp\">❓</i> 那用 AWQ 量化到 4bit 之后总可以了吧？发现输出是乱码，去 issue 里面查才发现最新版本的 LMD 还不支持 V100 AWQ <i class=\"custom-emoji\" emoji-src=\"emoji/6323582802050680516.webp\">🛌</i> 但是已经有人加了支持，开了一个 <a href=\"https://github.com/InternLM/lmdeploy/pull/2090\">+12120 -4990 的巨大 PR</a> 还没有合进去，那试试吧？发现用这个 PR 的话 AWQ 可以跑了但是很慢，而且多卡还是会崩溃... 算了算了换别的试试吧\n\n最后试了 MLC，从量化到运行没有遇到任何问题，多显卡推理也是加一个参数没有调其他的就成功了，每个请求 0.43 秒的性能也相当不错。不过发现多加一张 V100 在没有批量的情况下跑张量并行只能提升 13% 的性能，基本上就只能作为一张显存更大的 V100 用... 还是对 Sxm2 的带宽好失望，不过也很够用啦",
-    "views": 108,
+    "views": 109,
    "forwards": 0,
    "media_group_id": 13785388234834757,
    "images": [
@@ -58681,7 +58681,7 @@
    "id": 4297,
    "date": "2024-08-09T05:03:32",
    "text": "今天七七在 AquaDX 群里说 AquaDX 的群头像看起来总感觉像是没加载出来的模糊图的样子，怎么办呢？正好昨天是国际猫猫日，让 DALLE 在里面填一些猫吧",
-    "views": 130,
+    "views": 131,
    "forwards": 0,
    "images": [
      {
@@ -58700,7 +58700,7 @@
    "id": 4298,
    "date": "2024-08-09T07:26:45",
    "text": "<a href=\"##谜题\">#谜题</a>\n\n看数一在玩 <a href=\"https://www.puzzle-loop.com/\">Slither Link</a> 我也去试了试，好难 <i class=\"custom-emoji\" emoji-src=\"emoji/6323267916523374069.webp\">🥺</i> 每日谜题花了 1:42 小时才做出来\n\n（放一个 100 倍速的视频",
-    "views": 155,
+    "views": 156,
    "forwards": 4,
    "files": [
      {
@@ -58722,7 +58722,7 @@
    "id": 4299,
    "date": "2024-08-09T08:48:10",
    "text": "<a href=\"##戴上耳机\">#戴上耳机</a>\n神のまにまに！\n\n今天打プロセカ发现的这首歌，好久没有听到这么欢乐治愈的ボカロ曲了 qwq\n\n<a href=\"https://www.youtube.com/watch?v=b2GJcYBoVyg\">原曲MV</a> | <a href=\"https://www.youtube.com/watch?v=cb1s5_U0wd0\">プロセカ 3DMV</a>",
-    "views": 142,
+    "views": 143,
    "forwards": 0,
    "files": [
      {
@@ -58744,14 +58744,14 @@
    "id": 4300,
    "date": "2024-08-09T21:36:19",
    "text": "奇妙，我在 VSCode 上连接 SSH 终端，在 SSH 那边打了一个 git push，它弹了一个窗口在本地打开浏览器选择账号登录，然后跳转连接跳转回了 VSCode 过一会 push 成功了... 现在 VSCode 的集成已经这么厉害了吗 <i class=\"custom-emoji\" emoji-src=\"emoji/6170139473288890346.webm\">🤩</i>",
-    "views": 122,
+    "views": 123,
    "forwards": 0
  },
  {
    "id": 4301,
    "date": "2024-08-09T23:44:01",
    "text": "<i class=\"custom-emoji\" emoji-src=\"emoji/6323267916523374069.webp\">🥺</i>",
-    "views": 150,
+    "views": 151,
    "forwards": 2,
    "images": [
      {
@@ -58770,7 +58770,7 @@
    "id": 4302,
    "date": "2024-08-10T06:43:02",
    "text": "<a href=\"##ML\">#ML</a> 之前模型还部署在 menci 学校机器上的时候，发现它有一个很大的问题就是说话人非常不准，比如你找瑞希说话的时候突然初音出来说话了...\n\n前几天决定测一下这个问题，写脚本给每个队伍生成了 200 组测试数据，每条是一个随机的人问另一个人最近过得怎么样（比如”絵名：瑞希你最近怎么样？“）让模型生成下一句，看看回复的人对不对。测试出来发现最高居然只有 70% 正确率，明明是这么基础的对话逻辑...\n\n然而昨天把推理库换从 LMD 换成 MLC 之后，测速的时候偶然发现似乎每一条都是正确的，即使运气好也不应该这样。测一下好了，然后发现 MLC 的回复人准确率到了 98% <i class=\"custom-emoji\" emoji-src=\"emoji/6323275213672810256.webp\">😀</i>\n\n第一次知道原来推理库不止影响模型速度，对回复质量影响也这么大",
-    "views": 105,
+    "views": 106,
    "forwards": 0,
    "reply": {
      "id": 4295,
@@ -58794,7 +58794,7 @@
    "id": 4303,
    "date": "2024-08-10T07:22:00",
    "text": "发现自己做研究的时候，找到一个比较好的方案就不是很有动力再去从零开始尝试其他的方案了，只会去想办法优化这个方案，因为做新的尝试会消耗很多时间精力和计算资源，也不一定会更好... 可是如果不尝试，即使有更好的方案也没办法知道 <i class=\"custom-emoji\" emoji-src=\"emoji/6323582802050680516.webp\">🛌</i>\n\n<span class=\"spoiler\"><span>也许人类这个集体就是某种分布式的梯度下降算法，每个人都只会从其他人知识库的顶端继续向下走，直到慢慢在某个局部最低点聚合。真的从零开始走少经之路的人没办法获得资源，靠自己也做不到什么吧...\n\n暴论一下，如果我们的现实是某种模拟的话，我大概理解为什么会有人想要模拟一切事物从零发展了。解决梯度下降卡住一个很常用的办法就是模拟很多次，从不同的随机起点重新跑... 也许我们的现实就是随机起点之一吧</span></span> <i class=\"custom-emoji\" emoji-src=\"emoji/5445083289314401705.tgs\">🪟</i>",
-    "views": 105,
+    "views": 106,
    "forwards": 0,
    "reply": {
      "id": 4302,
@@ -58805,7 +58805,7 @@
    "id": 4304,
    "date": "2024-08-11T07:18:27",
    "text": "<a href=\"##桂桂今天吃什么\">#桂桂今天吃什么</a> （昨天？\n看到信达超市的鸡皮又有货了就做了烤鸡皮 <i class=\"custom-emoji\" emoji-src=\"emoji/6170139473288890346.webm\">🤩</i> $2 够两个人吃两顿好便宜\n\n之前很长一段时间都下架了（x",
-    "views": 97,
+    "views": 98,
    "forwards": 0,
    "media_group_id": 13786885663459205,
    "images": [
@@ -58845,7 +58845,7 @@
    "id": 4307,
    "date": "2024-08-11T07:23:28",
    "text": "今天去 Queer St West 逛逛，好喜欢这条街的气氛，很热闹，到处都是很好看的涂鸦 qwq",
-    "views": 110,
+    "views": 111,
    "forwards": 0,
    "media_group_id": 13786888068125157,
    "images": [
@@ -58905,14 +58905,14 @@
    "id": 4312,
    "date": "2024-08-11T07:38:53",
    "text": "白天困困，躺在床上就不困了 <i class=\"custom-emoji\" emoji-src=\"emoji/6323315689444607430.webp\">☁️</i>",
-    "views": 97,
+    "views": 98,
    "forwards": 0
  },
  {
    "id": 4313,
    "date": "2024-08-11T07:50:23",
    "text": "起床觅食有被拐角的新叶喵吓到 <i class=\"custom-emoji\" emoji-src=\"emoji/6323556186138346934.webp\">😢</i>\n\n...以及拍照的时候手机没拿稳拍出了奇妙照片 quq",
-    "views": 113,
+    "views": 114,
    "forwards": 0,
    "media_group_id": 13786900988263349,
    "images": [
@@ -58942,7 +58942,7 @@
    "id": 4315,
    "date": "2024-08-11T08:40:04",
    "text": "<a href=\"##ADHD\">#ADHD</a> 发现自己忘了要干什么的时候就会在命令行里反复打 ll <i class=\"custom-emoji\" emoji-src=\"emoji/6170424195260877091.webm\">🤗</i>",
-    "views": 124,
+    "views": 125,
    "forwards": 0,
    "images": [
      {
@@ -59349,7 +59349,7 @@
    "id": 4344,
    "date": "2024-08-19T06:17:34",
    "text": "你也知道啊啊啊啊啊编剧 💢💢",
-    "views": 134,
+    "views": 135,
    "forwards": 0,
    "forwarded_from": {
      "name": "Azalea",
@@ -63702,7 +63702,7 @@
    "id": 4646,
    "date": "2024-11-13T09:05:08",
    "text": "<em>Civil Disobedience</em>",
-    "views": 162,
+    "views": 163,
    "forwards": 1,
    "images": [
      {
@@ -64263,7 +64263,7 @@
    "id": 4676,
    "date": "2024-11-22T04:23:54",
    "text": "高情商：my email will be encrypted\n低情商：即使对等 AES 密钥是微软服务器下发的，但是我们用 AES 加密过哦！\n\n...感觉现在很多服务的“加密”都是做给不懂计算机但是有 privacy obsession 的人看的，实际上并没有真的安全\n\n就比如这个邮件的 RMS 加密，有没有加密实际上 attack vector 都并没有变。对中间人来说，因为客户端和邮件服务器之间有 TLS，即使没有 RMS 也没办法看到内容。如果任何一方被盗了号或者盗了饼干或者电脑中了后门，攻击者无论有没有 RMS 都能看到内容。如果微软服务器被黑了，也一样无论有没有 RMS 都能看到内容，因为加密密钥存在服务器上... <i class=\"custom-emoji\" emoji-src=\"emoji/6169953432485496291.webm\">😶</i> 唉，真的什么都没有解决呢\n\n<del>感觉懂安全的人在这个时代已经摆烂了，想绝对安全也不太可能呢，鬼知道还有多少 Jia Tan 在我的电脑上留着后门</del>",
-    "views": 94,
+    "views": 97,
    "forwards": 2,
    "media_group_id": 13857995477375541,
    "images": [
@@ -64293,7 +64293,7 @@
    "id": 4678,
    "date": "2024-11-22T09:48:28",
    "text": "真的觉得应该停一停了，感觉每隔一段时间就能看到一篇标题是 \"{} is all you need\" 的论文... 不是所有东西都应该是 all you need 好吗 <i class=\"custom-emoji\" emoji-src=\"emoji/6169953432485496291.webm\">😶</i>",
-    "views": 130,
+    "views": 131,
    "forwards": 2,
    "images": [
      {
@@ -64312,7 +64312,7 @@
    "id": 4679,
    "date": "2024-11-22T15:37:39",
    "text": "<i class=\"custom-emoji\" emoji-src=\"emoji/6327782811914733923.webp\">🥳</i>",
-    "views": 123,
+    "views": 125,
    "forwards": 1,
    "images": [
      {
@@ -64331,7 +64331,7 @@
    "id": 4680,
    "date": "2024-11-22T16:10:49",
    "text": "这只是一张普通的日落",
-    "views": 82,
+    "views": 83,
    "forwards": 0,
    "forwarded_from": {
      "name": "Azalea",
@@ -64373,7 +64373,7 @@
    "id": 4682,
    "date": "2024-11-23T01:14:05",
    "text": "时隔一年半的后续：今天 Zotero 告诉我说之前遇到的这篇造假的论文被 retract 了，可喜可贺\n\n看到 Retract notice 里面指出了一个 \"Paper Mill: A business that creates and sells research papers where the buyer(s) claim authorship; the business is generally unacknowledged as a contributor.\" ...居然这个世界上还有这种业务存在，好可怕。",
-    "views": 93,
+    "views": 94,
    "forwards": 1,
    "reply": {
      "id": 2202,
@@ -64396,7 +64396,7 @@
    "id": 4683,
    "date": "2024-11-24T05:52:34",
    "text": "唉 这就是 AI hype 的 nonsense 吗\n\n<a href=\"https://arxiv.org/abs/2308.09597\">ChatHaruhi</a> 这篇没写完的论文，结果评估都没有，居然就发 preprint 了，居然已经有 15 citation 了...  <i class=\"custom-emoji\" emoji-src=\"emoji/6170424195260877091.webm\">🤗</i>\n\n非常可惜我也会给它贡献一个 citation",
-    "views": 82,
+    "views": 83,
    "forwards": 0,
    "images": [
      {
@@ -64415,28 +64415,28 @@
    "id": 4684,
    "date": "2024-11-24T18:20:20",
    "text": "想吃烤聊天气泡 🔥💬",
-    "views": 74,
+    "views": 76,
    "forwards": 0
  },
  {
    "id": 4685,
    "date": "2024-11-25T09:54:45",
    "text": "看了一集ダンダダン，真的爱了这个发疯展开，作画也好棒，这是新时代的 FLCL 吗",
-    "views": 70,
+    "views": 72,
    "forwards": 0
  },
  {
    "id": 4686,
    "date": "2024-11-25T15:57:03",
    "text": "谁还记得曾经有段时间给 Minecraft 安装 mod 要手动解压 minecraft.jar，把 class 文件替换掉再删掉 META-INFO <i class=\"custom-emoji\" emoji-src=\"emoji/6169953432485496291.webm\">😶</i>\n\n（暴露年龄了",
-    "views": 67,
+    "views": 69,
    "forwards": 0
  },
  {
    "id": 4687,
    "date": "2024-11-26T03:11:41",
    "text": "\"hey, who does sudo report these 'incidents' to?\"\n\"you know, I've never checked.\"\n<a href=\"https://xkcd.com/838/\">xkcd#838</a>",
-    "views": 102,
+    "views": 112,
    "forwards": 2,
    "images": [
      {
@@ -64455,7 +64455,7 @@
    "id": 4688,
    "date": "2024-11-26T04:33:29",
    "text": "总是把 MTEB leaderboard 打成 MBTI <i class=\"custom-emoji\" emoji-src=\"emoji/6323275213672810256.webp\">😀</i>",
-    "views": 49,
+    "views": 55,
    "forwards": 0,
    "images": [
      {
@@ -64474,7 +64474,7 @@
    "id": 4689,
    "date": "2024-11-26T09:13:07",
    "text": "让所有的机器都训练上了模型，终于可以安心睡觉了 <i class=\"custom-emoji\" emoji-src=\"emoji/5445397062445178872.tgs\">😓</i>",
-    "views": 25,
+    "views": 39,
    "forwards": 0,
    "reply": {
      "id": 4283,
@@ -12,7 +12,7 @@
      <link>https://aza.moe/life</link>
    </image>
    <language>zh-cn</language>
-    <lastBuildDate>Tue, 26 Nov 2024 10:12:20 +0000</lastBuildDate>
+    <lastBuildDate>Tue, 26 Nov 2024 12:11:47 +0000</lastBuildDate>
    <item>
      <title>小桂桂的回忆录 📒 #4689</title>
      <link>https://aza.moe/life?post=4689</link>