爱吱声

标题: 集腋成裘 [打印本页]
作者: 可梦之    时间: 2021-4-2 14:26
标题: 集腋成裘
信息爆炸的时代，如何获取有价值的内容，成为每个人获取竞争优势的关键。而知识的日益碎片化，令这一任务变得更加艰巨。& U" Q6 H- j; o* B2 o6 b, B- K

* E$ O* w7 M1 W5 c6 M计算机和AI，大大丰富了我们对信息进行筛选、整理和分析的手段，比如搜索，比如自动学习。技术的另一面，Deep Fake正在产生更加海量的“虚构”信息，比如论文、比如视频。这使得原始数据都已经被污染和人为操控。7 d" z) N" k& V1 n4 Y) y  _  L8 N

: f! J! L! p6 ?$ W7 _3 n1 X7 p9 ^0 Z野蛮生长的互联网巨兽，掌握了我们海量的数据，他们甚至比我们自己还了解自己。那些本属于我们的数据，被他们利用以牟利；还被禁锢在他们的私有网络，甚至我们自己都不能访问。
8 j4 d8 i0 d1 Y
8 x0 q+ O3 p) s8 P在信息的海洋里，我们如同一叶扁舟。周围都是水，却缺少可以饮用的淡水。我们被各种知识充斥着，忙碌着；却很难静下心来，真正的去分析、理解，从而升华我们的思想和知识体系。我们貌似极度自由，可以获取几乎所有信息，但又深陷在信息茧房，慢慢失去了思辨力和想象力。尤其是算法推荐的出现，让我们愈加偏执，远离真相。  B% u5 _" t' F8 I5 C
( N2 F' T& W; T
我是有点收集癖和整理控，就更加苦恼。好不容易搞明白一个技术问题，却没有记录下来，或者忘记记在哪里了；写了文章，留在网站上，自己想去看，网站可能都没了。信息那么多，属于自己的有多少？
) F' P* i2 s1 W1 G! x! t* M1 H- m2 K- s- x) `- h. r# h: H
我曾经尝试过很多方法，比如把知识点滴记录在笔记本上，比如写成Latex/Markdown文档，然而都有不少问题。那为什么不自己做一个让自己满意的知识整理系统呢？去年疫情憋在家，开干！( R4 v5 ?9 J- S& U& S

) Z* b2 c  [6 T0 S/ y& r+ Y9 u0 P第一个要求：结构化。非结构化的数据是很难分析和整理的，将数据结构化，开始会付出多，但之后就方便多了。这有个问题：不同的内容，结构化是不同的。比如文章包括标题、正文、作者等；Covid19统计数据就包括国家、日期、新增死亡、新增确诊等。支持给定结构的系统是容易的，我之前也做过日记、照片分享的网站；支持任意结构数据，是很难的。却又是必须的，灵活性是第一的。我今天要记录博客文章，两分钟搞定；明天要记录新闻，两分钟搞定！" r6 j- c. y. d& p6 {5 H5 d7 q
' ~3 {5 |0 I( g. c$ s6 u8 u
第二个要求：自己做主。我的数据，我做主。所有数据我拥有和控制，哪天不想用这个系统了，随时打包数据走人。+ e( }* @  F' k! U
. D& y% L8 M1 ~' `7 I+ M
第三个要求：共享性。一方面是是方便讲自己的数据分享给别人，另一方面是方便群体合作整理信息。比如我很想整理一下中国流失海外的文物信息，但这个肯定不是我一个人能干的。/ K" \+ ~; `- ~' C# s* z
% a# |5 O" ~, V+ b: _
第四个要求：易用性。一些常见的操作，系统要支持。比如转为PDF/Markdown，数据的可视化画图，数据的自动化处理等。/ U7 @% t* v; o7 m5 y

, u4 Y' A1 b* m" A0 nIT人的项目一定会延期的，尤其是这种有一搭没一搭的，稀稀拉拉做了快一年，终于有个样子了。结构化部分花的时间最多，用户可以自己定义数据结构，支持基本的类型，如数字、文字、枚举等，也支持Markdown，HTML等格式，以及常用的图片、视频、国家等等。这部分相当于自己搞了一个简版的ORM，很少有人这么搞，资料也不多。之后加入了数据导出导出，各种格式转化，画图等。最后稍微加了一点社交属性，评论、标签、好友、权限管理等。
. ]4 X& G7 @$ _# n# U4 z
$ D- C( h# C. f7 q+ R8 B这个过程中，其实学了不少东西。尤其是之前很讨厌的前端界面。同时，作为正式项目的技术验证，尝试最新的技术软件，收获不少。
# B) p& J# T0 J, @  O- F( t+ y1 N8 X4 l8 \) c/ f6 a( z- |+ X$ U
作为测试，自己用了一段时间。一个方面是做技术笔记，Markdown是目前找到最合适的格式；还有就是记录自己的文章，以及新闻、视频等；有些统计数据，比如COVID19数据，也很感兴趣，但还没怎么弄。至于这些数据整理之后有什么用处呢？现在还不太明显。技术笔记让我养成了比较好的习惯，免得做过的东西之后又忘记了。整理的《芳斯塔芙》的视频，外甥很喜欢。还有就是公司内部的简易bug系统，不用再折腾装别人软件或者自己从头搞。
( Y. d3 ~$ Q. p4 q- r5 O
; Z. D& ~" Q4 S. n3 }& E0 g坚持一件事情，真的挺难的，尤其是没人逼着的时候。曾经几次想放弃，曾经多次想，我费劲收集这些有用吗？希望自己能坚持下来，集腋成裘，希望能够帮助自己进步和提高。其实很多研究都是基于枯燥的数据收集和整理，没有第谷老师几十年的观测数据，开普勒也搞不出行星三大定律。归纳法也是重要的研究方法。现在所谓的大数据很多经历也是花在数据清理和结构化上。以此自勉。$ c2 L% i4 i5 P8 Z' G, P
  u" _3 C  v3 x+ S0 {0 ^, h8 l
下一步打算支持一个开放的API，这样方便自动化以及和别的系统集成。之后做一下APP，毕竟现在Web用户越来越少了。数据上，打算整理一下COVID19各国数据，还有就是波士顿圆脸的视频和笔记等。9 _9 n- d) _" R6 [2 g

3 ~) l4 K6 C. H8 {- e" K' c6 @3 J& b最后说一下网址是 https://shujuqiu.com。如果有同好，一起做，也是一种鼓励和督促，内心还可以小得意一下。现在普通用户的数据是公开的，如果需要设置为私密，可以留言给你们设置为VIP用户。1 k8 ~! `8 e" X  t# r4 t
       
作者: 捣江湖    时间: 2021-4-2 23:13
收集癖怎么治
作者: 捣江湖    时间: 2021-4-2 23:14
UI 很让人头痛怎么治
作者: 可梦之    时间: 2021-4-3 03:48
捣江湖 发表于 2021-4-2 23:13$ w/ K: n  |2 V4 ^
收集癖怎么治
7 a% F! l/ W2 K) u- l
买个大房子+两个大硬盘
作者: 可梦之    时间: 2021-4-3 03:49
捣江湖 发表于 2021-4-2 23:14+ }2 |- P4 F: J) T$ v; Q/ @
UI 很让人头痛怎么治
- p  |2 z1 K; _# o, T
我也头疼UI
作者: 晨枫    时间: 2021-4-3 06:51
可梦之 发表于 2021-4-2 13:48( ]8 L+ Z, H1 j$ Y6 D4 b6 M- x
买个大房子+两个大硬盘
+ w/ q" N' W3 A. z! _6 H  r# K
我刚给NAS扩容，现在有24T了，RAID后实际可用18T，够对付一阵子了
作者: 可梦之    时间: 2021-4-3 06:54
晨枫 发表于 2021-4-3 06:51
9 u& h5 G0 `  g4 s+ S我刚给NAS扩容，现在有24T了，RAID后实际可用18T，够对付一阵子了

0 D* L  C  f* e你可能太多照片了吧。我两个4T硬盘，足够装所有的了。
作者: 捣江湖    时间: 2021-4-3 07:53
晨枫 发表于 2021-4-3 06:51
% {5 G% p' C6 O/ n! x2 C" |我刚给NAS扩容，现在有24T了，RAID后实际可用18T，够对付一阵子了

. x; o* E- Y1 Y) |5 S/ A豪，我很好奇里面都装的啥
作者: 捣江湖    时间: 2021-4-3 08:24
我觉得 应该精简你收集到的信息，除去垃圾信息，无关生死的信息。我指的那种，比如把你扔到另一星球，你一个人要从头开始复制一个社会所需的信息（我指的是这种重要级别的），形成一颗信息树（可用mind 思维导图之类的开始），存储主干，不重要的信息或者没必要存储，不然想收集存储容器总是不够的。
" ^& h9 Q1 h6 ~; O7 t: Z( B3 v1 k* c1 W8 B- [: j  z
电视剧《星际之门》中有一集是地球被毁灭，人类在最后时刻下载数据中心的数据，然后一大批数据都没有下载完就被迫撤退。
作者: 晨枫    时间: 2021-4-3 08:52
捣江湖 发表于 2021-4-2 17:53* q. S; {2 [8 ^: _3 t, B
豪，我很好奇里面都装的啥
5 K7 ~9 j+ K, R( D( y3 t$ H1 c% C. y; i4 r
主要是旅游的照片。一般文件哪来那么多
作者: 晨枫    时间: 2021-4-3 08:53
可梦之 发表于 2021-4-2 16:54
# s) N, `, B8 F8 k你可能太多照片了吧。我两个4T硬盘，足够装所有的了。

. U& Y4 ^0 b. m7 X* s0 e2 K就是照片多。我还习惯RAW和JPG同时留下，体积更大。
作者: 可梦之    时间: 2021-4-3 10:25
捣江湖 发表于 2021-4-3 08:24
/ \; L7 }, R, ]% C  a我觉得 应该精简你收集到的信息，除去垃圾信息，无关生死的信息。我指的那种，比如把你扔到另一星球，你一 ...
8 M6 y' v) y; l- t$ z
对，删数据比存数据难多了。但是有用没用的一起存，有用的也找不到变成没用的了。, T2 H2 g- |2 A, j) X' L

5 B, \; c" {/ }# Exmind我也很喜欢，将来想做一个自动生成思维导图的功能。
作者: 可梦之    时间: 2021-4-3 10:26
晨枫 发表于 2021-4-3 08:53
* e% N2 I4 C. ~; s2 e/ T就是照片多。我还习惯RAW和JPG同时留下，体积更大。
2 j. Y; Q9 q9 Z1 k0 I0 Q
RAW就太大了。我一般是存原尺寸的JPG和缩小的（1080p）的JPG，后者放在电脑、手机上随时查看。原版的放在备份硬盘上。
作者: 晨枫    时间: 2021-4-3 10:51
可梦之 发表于 2021-4-2 20:26
# Z* i/ c% E, C; {" Z. a6 P7 HRAW就太大了。我一般是存原尺寸的JPG和缩小的（1080p）的JPG，后者放在电脑、手机上随时查看。原版的放在 ...
8 O; a( E) M2 G7 M% I
我的NAS只存RAW和原尺寸JPG，缩小的JPG存在PC硬盘上，还有一个1T SSD（系统和常用文件）、1个2T、2个500GB的硬盘，都是以前逐步升级后留下的，闲着也是闲着，反正HD bay还有空间，能装多少装多少。
作者: testjhy    时间: 2021-4-3 14:22
同收集癖，古典音乐视频爱好者，被迫放弃蓝光，对其进行X256压缩，即使这样，现在大约有12T，好在去年欧美几乎没有现场演出，一年多没有用太多空间，好在现在18T的硬盘也不太贵了，
作者: 可梦之    时间: 2021-4-3 17:32
testjhy 发表于 2021-4-3 14:22
3 f% }# o: s. p7 s; P同收集癖，古典音乐视频爱好者，被迫放弃蓝光，对其进行X256压缩，即使这样，现在大约有12T，好在去年欧美 ...

$ A, q( k2 K  O: f! t, T/ h遥想当年，实验室分配了一个有20G的硬盘的新电脑，看着空空的硬盘，发愁要放点啥才能占这么多空间啊。上佛教网把所有佛教典籍下载了一份，占了5个G，心里踏实了。



欢迎光临 爱吱声 (http://129.226.69.186/bbs/) Powered by Discuz! X3.2