5 followers 0 articles/week
小试自定义GPT

最近不是在折腾LLM嘛,于是就试了两条路子:用openai的api,以及直接在openai的界面里面创建GPT。 前者没啥特别的,chatgpt的api做的很成熟了,from openai import OpenAI 之后直接在python里面调用几个现成的函数就好了。可选的参数其实也不多,主要就是prompt写的好一点就行。我的要求也不高,试了试基本满足。此外我还用到了微软 azure api,也很方便,两者一结合基本一个app就搓出来了,只是暂时还只能在命令行运行,没写前端ui罢了。 后者就麻烦了。我想着自己写前端ui还挺麻烦的,就想偷个懒直接在GPT里面弄弄看看行不。结果呢,现在这个版本实在是太挫了,只支持最最基本的action,虽然可以调用其他api,但还没研究出来怎么实现用户上传的文件扔到action...

Fri Jan 12, 2024 11:23
吾日三省吾身

逆水行舟,不进则退。每一次偷懒的后果都会反噬自己。透过现象看本质。热点永远层出不穷,不能以有限的精力来应对无限的新闻。但也不能两耳不闻窗外事,否则换了人间都不知。用进废退。记忆是有限的,不可能面面俱到。 ——- 舒适圈还是躺太久了,忘了外面的血腥残酷。

Wed Nov 29, 2023 09:12
大语言模型LLM的基本逻辑

上一篇说到我准备入个坑,结果就是最近埋头苦苦补习最基本的一些知识。随便写点东西梳理一下思路吧,这样万一我真的开始做点什么也算是一个基本素材。一些英文的名词我就不翻译了,反正现在大家英语都挺好的。 先来一些可以基本望文生义的名词解释。LLM=large language model = 大语言模型。这简直是个不能再俗的名字了。GPT = generative pre-trained transformer ,也是够直白的。 再来个极其简单的(受限于园主阅历)历史回顾。自然语言处理基本上经历了 word2vec, RNN,然后就是现在的transformer了。其实说到底,自然语言处理的基本问题就是一个时间序列问题。当园主意识到这点的时候也是惊掉了下巴,什么,计量里面的时间序列不是Autoregression,...

Tue Nov 14, 2023 08:07
[新坑]通用人工智能

为了写下这个标题,我打字都要抖一抖。Artificial General Intelligence 这一年被炒的太火热了,我好像一个迟到的来蹭流量的似的。硅谷每几年都会有新的一波热点,追热点死得很惨的人一片片,我还是多少费了一番功夫,才觉得这不是又一个转瞬即逝的热点,而是一波新的技术革命的开端。 最近种种原因吧,花了不少时间精力来了解和思考这个领域,理论、技术和商业应用层面都有(我怎么这么牛,打脸冷静一下)。虽然前面法语的坑还没填上,但我还是想先挖个坑,要不要开个频道专门聊一下AGI和其他这一波AI技术的革新呢……哎,再挖个坑,这次可以用英文法语中文三种语言讲这个话题哎,想到这里觉得自己好厉害的样子(再打脸清醒一下)。 让我这个周末冷静冷静,再来看自己是不是又一时冲动了哈哈。

Sat Nov 4, 2023 08:27
Affirmative Action和阶层固化

最近美国最高法院的一则判决让Affirmative Action一下子成为了众矢之的。我不知道是不是圈子有限的缘故,我一时之间看到的竟然全都是一片对于禁止AA的叫好之声,让我不禁怀疑这里面多少只是情绪的宣泄而不是理性的思考。那我就来捅捅这个马蜂窝,讲一些自己的看法。 AA其实是美国某些高校录取时候的一项倾斜政策(当然也有人说这是歧视政策,看具体立场了)。大意就是,对于现在相对较少的民族降低录取的一些标准(比如SAT分数),从而提升新生中这些人的比例。如果代入中国的高考制度,大概相当于少数民族加分政策。为什么大部分华裔对高院的这项判决一片叫好呢?因为华裔恰恰是享受不到加分政策的民族,所以禁止AA对于华裔录取是看起来有好处的。 无论美国高校的AA也好,中国高考的加分也罢,他们背后对应的都是一个残酷的稀缺资源分配问题,哪些人可以进入更好的高校并获取更佳的教育资源。无论是中国美国,高校某种程度上都成为了“社会阶层跃迁”的一道门槛。几十年前的研究就发现,美国拥有大学文凭的人收入要比高中及以下文凭的人高许多,而这一差别随时间依旧在扩大。但与此同时,文凭通胀论和文凭无用论也逐渐在美国开始盛行。背后一个残忍的事实是,劳动力...

Sun Jul 9, 2023 23:51
巴黎与旧金山的细微不同

这两个城市其实挺不一样的,直接对比网上有很多,我也提供不了什么新的信息。在巴黎住了快一年了,作为居民有机会感受到一些细微之处,便在此碎碎念一番。 治安。网上一搜,到处都是巴黎治安差的信息,这确实不能跟东亚比。但至少,巴黎人没枪啊,我走在路上基本还是感到很安全的,最多就是防小偷。再就是巴黎街上人多啊,那怕你半夜出门还是不少地方灯火通明的,不像旧金山落日之后一片死寂。打扮低调点,比如穿一身优衣库基本款配书包或帆布袋基本是不会招人眼球的。相比而言,旧金山的乱还是让我心有余悸的。卫生。虽然巴黎在欧洲城市里都算脏的,但跟旧金山比还是干净的……哎,我已经麻木到在街上看不到人随地大小便就觉得还挺干净的程度了。交通。这大概是美国大部分城市的软肋了。巴黎城里地铁公交火车密布,短距离最快的则是骑公共自行车。跟旧金山出门就开车或者坐车比,实在是好到不知哪里去了。零售业。与人口密度和交通便利相辅相成的则是发达的零售业。随处可见的餐厅、超市和各种商店,使得我基本不会在冰箱囤积过多的食物。我住的公寓只有一个迷你冰箱(就酒店mini...

Fri Jun 16, 2023 01:15

Build your own newsfeed

Ready to give it a go?
Start a 14-day trial, no credit card required.

Create account