设为首页收藏本站

爱吱声

用户名  找回密码
 注册
帖子
查看: 2736|回复: 16
打印 上一主题 下一主题

[信息技术] 集腋成裘

[复制链接]
  • TA的每日心情
    奋斗
    2021-4-20 05:43
  • 签到天数: 300 天

    [LV.8]合体

    跳转到指定楼层
    楼主
     楼主| 发表于 2021-4-2 14:26:39 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
    信息爆炸的时代,如何获取有价值的内容,成为每个人获取竞争优势的关键。而知识的日益碎片化,令这一任务变得更加艰巨。
    : L  V9 s8 l4 o3 S: n  X8 m" A* L& b$ Q5 u5 L, I# x
    计算机和AI,大大丰富了我们对信息进行筛选、整理和分析的手段,比如搜索,比如自动学习。技术的另一面,Deep Fake正在产生更加海量的“虚构”信息,比如论文、比如视频。这使得原始数据都已经被污染和人为操控。" C/ t$ m2 }$ b) u
    " \6 F; K; c- _, \
    野蛮生长的互联网巨兽,掌握了我们海量的数据,他们甚至比我们自己还了解自己。那些本属于我们的数据,被他们利用以牟利;还被禁锢在他们的私有网络,甚至我们自己都不能访问。
      V& b) P- Q5 x, J* Z4 _# t5 s1 |1 I) }/ |( N' D5 b( k
    在信息的海洋里,我们如同一叶扁舟。周围都是水,却缺少可以饮用的淡水。我们被各种知识充斥着,忙碌着;却很难静下心来,真正的去分析、理解,从而升华我们的思想和知识体系。我们貌似极度自由,可以获取几乎所有信息,但又深陷在信息茧房,慢慢失去了思辨力和想象力。尤其是算法推荐的出现,让我们愈加偏执,远离真相。
    , }/ J) Y, t$ w6 L5 V; o4 U
    + v5 Y- m# a2 v我是有点收集癖和整理控,就更加苦恼。好不容易搞明白一个技术问题,却没有记录下来,或者忘记记在哪里了;写了文章,留在网站上,自己想去看,网站可能都没了。信息那么多,属于自己的有多少?
    ; v. `' Q* d" d) s4 Z8 M, K2 r
    ; k  J3 e  {: M! }% X$ S我曾经尝试过很多方法,比如把知识点滴记录在笔记本上,比如写成Latex/Markdown文档,然而都有不少问题。那为什么不自己做一个让自己满意的知识整理系统呢?去年疫情憋在家,开干!* r+ x" [/ N" d* Q% u4 |& ?

    % ?4 V0 ?8 m8 X第一个要求:结构化。非结构化的数据是很难分析和整理的,将数据结构化,开始会付出多,但之后就方便多了。这有个问题:不同的内容,结构化是不同的。比如文章包括标题、正文、作者等;Covid19统计数据就包括国家、日期、新增死亡、新增确诊等。支持给定结构的系统是容易的,我之前也做过日记、照片分享的网站;支持任意结构数据,是很难的。却又是必须的,灵活性是第一的。我今天要记录博客文章,两分钟搞定;明天要记录新闻,两分钟搞定!# x" }, I* B" o6 _
    * j9 e$ k6 }2 U& \- \/ r7 _! d
    第二个要求:自己做主。我的数据,我做主。所有数据我拥有和控制,哪天不想用这个系统了,随时打包数据走人。! N( S  y1 g" M
    5 t( i$ c, A" I9 ~4 J) n, @3 ~
    第三个要求:共享性。一方面是是方便讲自己的数据分享给别人,另一方面是方便群体合作整理信息。比如我很想整理一下中国流失海外的文物信息,但这个肯定不是我一个人能干的。
    " o4 E1 o  ^+ y3 P! n2 ]: K4 S2 o4 Z- N% I% |
    第四个要求:易用性。一些常见的操作,系统要支持。比如转为PDF/Markdown,数据的可视化画图,数据的自动化处理等。* E! m: I! U) d  p

    ' U$ j9 O2 B/ G; oIT人的项目一定会延期的,尤其是这种有一搭没一搭的,稀稀拉拉做了快一年,终于有个样子了。结构化部分花的时间最多,用户可以自己定义数据结构,支持基本的类型,如数字、文字、枚举等,也支持Markdown,HTML等格式,以及常用的图片、视频、国家等等。这部分相当于自己搞了一个简版的ORM,很少有人这么搞,资料也不多。之后加入了数据导出导出,各种格式转化,画图等。最后稍微加了一点社交属性,评论、标签、好友、权限管理等。$ k7 X- t$ M+ y2 V

    * T; W$ T1 p  E( n, Y5 `这个过程中,其实学了不少东西。尤其是之前很讨厌的前端界面。同时,作为正式项目的技术验证,尝试最新的技术软件,收获不少。
    ) Y6 M# r) s8 m1 Q8 x% O
    & z1 r, c( {! `3 s% P% G$ v作为测试,自己用了一段时间。一个方面是做技术笔记,Markdown是目前找到最合适的格式;还有就是记录自己的文章,以及新闻、视频等;有些统计数据,比如COVID19数据,也很感兴趣,但还没怎么弄。至于这些数据整理之后有什么用处呢?现在还不太明显。技术笔记让我养成了比较好的习惯,免得做过的东西之后又忘记了。整理的《芳斯塔芙》的视频,外甥很喜欢。还有就是公司内部的简易bug系统,不用再折腾装别人软件或者自己从头搞。
    % P& ~2 U" ]7 ?+ N- `4 b2 E5 ~! w) x' o! c3 w, k5 f! K6 _  c. g2 p
    坚持一件事情,真的挺难的,尤其是没人逼着的时候。曾经几次想放弃,曾经多次想,我费劲收集这些有用吗?希望自己能坚持下来,集腋成裘,希望能够帮助自己进步和提高。其实很多研究都是基于枯燥的数据收集和整理,没有第谷老师几十年的观测数据,开普勒也搞不出行星三大定律。归纳法也是重要的研究方法。现在所谓的大数据很多经历也是花在数据清理和结构化上。以此自勉。
    - H6 [; P, `/ g# M, J4 J
    : [( ]# }, \9 ^- ]下一步打算支持一个开放的API,这样方便自动化以及和别的系统集成。之后做一下APP,毕竟现在Web用户越来越少了。数据上,打算整理一下COVID19各国数据,还有就是波士顿圆脸的视频和笔记等。& U. x; y4 Y$ t, i$ m

    , x+ V7 P  \# n最后说一下网址是 https://shujuqiu.com。如果有同好,一起做,也是一种鼓励和督促,内心还可以小得意一下。现在普通用户的数据是公开的,如果需要设置为私密,可以留言给你们设置为VIP用户。) D1 ]4 a6 B$ Q( N, N* o
           

    评分

    参与人数 11爱元 +92 收起 理由
    testjhy + 10
    兰芷 + 10
    东湖珞珈 + 8
    料理鼠王 + 10
    indy + 8

    查看全部评分

    该用户从未签到

    沙发
    发表于 2021-4-2 23:13:04 | 只看该作者
    收集癖怎么治
    回复 支持 反对

    使用道具 举报

    该用户从未签到

    板凳
    发表于 2021-4-2 23:14:07 | 只看该作者
    UI 很让人头痛怎么治
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    奋斗
    2021-4-20 05:43
  • 签到天数: 300 天

    [LV.8]合体

    地板
     楼主| 发表于 2021-4-3 03:48:50 | 只看该作者
    捣江湖 发表于 2021-4-2 23:13
    2 {' m- o" A3 y+ b3 Y4 M) e4 z收集癖怎么治
    0 ~* B/ ]( |# I% r% W
    买个大房子+两个大硬盘
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    奋斗
    2021-4-20 05:43
  • 签到天数: 300 天

    [LV.8]合体

    5#
     楼主| 发表于 2021-4-3 03:49:09 | 只看该作者
    捣江湖 发表于 2021-4-2 23:14; X, ~% J8 }# l9 ]
    UI 很让人头痛怎么治
    4 k6 c5 C+ Q6 i( s. P) j
    我也头疼UI
    回复 支持 反对

    使用道具 举报

    该用户从未签到

    6#
    发表于 2021-4-3 06:51:01 | 只看该作者
    可梦之 发表于 2021-4-2 13:48* ^/ w- ?" {- G/ S) ~# f
    买个大房子+两个大硬盘

    . Y& m8 _- z1 I4 S: `  R) Z我刚给NAS扩容,现在有24T了,RAID后实际可用18T,够对付一阵子了
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    奋斗
    2021-4-20 05:43
  • 签到天数: 300 天

    [LV.8]合体

    7#
     楼主| 发表于 2021-4-3 06:54:30 | 只看该作者
    晨枫 发表于 2021-4-3 06:51% X- t5 R* B, a9 J0 j2 O
    我刚给NAS扩容,现在有24T了,RAID后实际可用18T,够对付一阵子了

    " B- s: O" B+ b5 T4 ^) z你可能太多照片了吧。我两个4T硬盘,足够装所有的了。
    回复 支持 反对

    使用道具 举报

    该用户从未签到

    8#
    发表于 2021-4-3 07:53:43 | 只看该作者
    晨枫 发表于 2021-4-3 06:51
    ! j' ^  j9 Z4 r; S' O4 w我刚给NAS扩容,现在有24T了,RAID后实际可用18T,够对付一阵子了
    8 l( f$ z, q. C+ K
    豪,我很好奇里面都装的啥
    回复 支持 反对

    使用道具 举报

    该用户从未签到

    9#
    发表于 2021-4-3 08:24:41 | 只看该作者
    我觉得 应该精简你收集到的信息,除去垃圾信息,无关生死的信息。我指的那种,比如把你扔到另一星球,你一个人要从头开始复制一个社会所需的信息(我指的是这种重要级别的),形成一颗信息树(可用mind 思维导图之类的开始),存储主干,不重要的信息或者没必要存储,不然想收集存储容器总是不够的。
    # K1 `; q7 r" G3 W' z
    ( E4 ]  K; e& Q6 g电视剧《星际之门》中有一集是地球被毁灭,人类在最后时刻下载数据中心的数据,然后一大批数据都没有下载完就被迫撤退。

    点评

    给力: 5.0 涨姿势: 5.0
    给力: 5 涨姿势: 5
      发表于 2021-4-3 10:33
    回复 支持 反对

    使用道具 举报

    该用户从未签到

    10#
    发表于 2021-4-3 08:52:56 | 只看该作者
    捣江湖 发表于 2021-4-2 17:531 N9 l5 h& a7 w% f9 `, m  x8 C( a) J
    豪,我很好奇里面都装的啥
    . ?7 ]* l4 N0 y1 s
    主要是旅游的照片。一般文件哪来那么多
    回复 支持 反对

    使用道具 举报

    该用户从未签到

    11#
    发表于 2021-4-3 08:53:55 | 只看该作者
    可梦之 发表于 2021-4-2 16:54& e7 T) |: r/ z) [+ V  M
    你可能太多照片了吧。我两个4T硬盘,足够装所有的了。

    3 ?. R: A/ A, e8 H/ i5 D就是照片多。我还习惯RAW和JPG同时留下,体积更大。
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    奋斗
    2021-4-20 05:43
  • 签到天数: 300 天

    [LV.8]合体

    12#
     楼主| 发表于 2021-4-3 10:25:42 | 只看该作者
    捣江湖 发表于 2021-4-3 08:24. `3 y- w7 B. S2 L
    我觉得 应该精简你收集到的信息,除去垃圾信息,无关生死的信息。我指的那种,比如把你扔到另一星球,你一 ...
    ' U: |" P2 E; p
    对,删数据比存数据难多了。但是有用没用的一起存,有用的也找不到变成没用的了。  a! B9 I( M3 v
    % u% ], S7 X' y8 n
    xmind我也很喜欢,将来想做一个自动生成思维导图的功能。
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    奋斗
    2021-4-20 05:43
  • 签到天数: 300 天

    [LV.8]合体

    13#
     楼主| 发表于 2021-4-3 10:26:39 | 只看该作者
    晨枫 发表于 2021-4-3 08:538 z, i' V7 T! i8 l
    就是照片多。我还习惯RAW和JPG同时留下,体积更大。

    $ u7 b8 V6 _% PRAW就太大了。我一般是存原尺寸的JPG和缩小的(1080p)的JPG,后者放在电脑、手机上随时查看。原版的放在备份硬盘上。
    回复 支持 反对

    使用道具 举报

    该用户从未签到

    14#
    发表于 2021-4-3 10:51:03 | 只看该作者
    可梦之 发表于 2021-4-2 20:26
    % Q% O- g& ^6 z) O  H$ WRAW就太大了。我一般是存原尺寸的JPG和缩小的(1080p)的JPG,后者放在电脑、手机上随时查看。原版的放在 ...
    ) q2 t* N5 n9 i- L* a9 `
    我的NAS只存RAW和原尺寸JPG,缩小的JPG存在PC硬盘上,还有一个1T SSD(系统和常用文件)、1个2T、2个500GB的硬盘,都是以前逐步升级后留下的,闲着也是闲着,反正HD bay还有空间,能装多少装多少。
    回复 支持 反对

    使用道具 举报

  • TA的每日心情

    昨天 00:00
  • 签到天数: 2798 天

    [LV.Master]无

    15#
    发表于 2021-4-3 14:22:35 | 只看该作者
    同收集癖,古典音乐视频爱好者,被迫放弃蓝光,对其进行X256压缩,即使这样,现在大约有12T,好在去年欧美几乎没有现场演出,一年多没有用太多空间,好在现在18T的硬盘也不太贵了,
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    奋斗
    2021-4-20 05:43
  • 签到天数: 300 天

    [LV.8]合体

    16#
     楼主| 发表于 2021-4-3 17:32:46 | 只看该作者
    testjhy 发表于 2021-4-3 14:22
    % i! j* X( _& h同收集癖,古典音乐视频爱好者,被迫放弃蓝光,对其进行X256压缩,即使这样,现在大约有12T,好在去年欧美 ...

    9 O8 i% A0 t' k) T* {遥想当年,实验室分配了一个有20G的硬盘的新电脑,看着空空的硬盘,发愁要放点啥才能占这么多空间啊。上佛教网把所有佛教典籍下载了一份,占了5个G,心里踏实了。
    回复 支持 反对

    使用道具 举报

    手机版|小黑屋|Archiver|网站错误报告|爱吱声   

    GMT+8, 2025-1-12 11:49 , Processed in 0.046851 second(s), 22 queries , Gzip On.

    Powered by Discuz! X3.2

    © 2001-2013 Comsenz Inc.

    快速回复 返回顶部 返回列表