也就是说在稀疏,弱信号下,由L0衍生出来的方法并不是最优的,比较容易出问题.虽然我依稀记得某些论文模拟显示信噪比过低时候不少penalty方法结果并不太好,不过Jiashun老师的这个结论还是让我比较吃惊,毕竟被很正经的提出来了,而且他还有相对的解决方案!着实让我很感兴趣.
为其两个周的北大关于高维统计的暑期课程即将告一段落,我回来奔跑了两周,身体略感疲惫,现在总算可以休息下,然后停下来消化下讲过的内容.
这次来讲课的老师学术能力都很强,都是四大paper等身的青年学者.老师们讲课的风格不一,最好玩的当属Tiefeng Jiang老师,他讲起课来就像说东北二人转,段子一个接一个,东北味的口音让我第一节课毫不犯困.而且深入浅出,随机矩阵这种比较数学的研究领域,也被他讲的比较好理解.不过后面由于有事情,以及之后的内容过于数学化,我就没有再跟下去了.Zhu Ji老师讲的很细致,不过内容偏简单了,听了两节课后我也没有跟下去.Cun-Hui Zhang老师做的很理论,深厚的数理分析功底,以及对高维问题理解的深刻让我感觉很敬畏,不敢靠近.不过对他后面做的scaled lasso和LPDE的结果很感兴趣,想用来做点检验的试验,不过邮件找老师要代码现在还没有回复,略感伤心,看来只能过几天自己写了.Yang Feng老师很年轻,在Fan老师那边做了很多非常好的工作,不过由于之前我看了不少Fan老师的东西,对他的讲的思路相对比较熟悉,也就没有太用心听而刷微博,做项目去了,真是一大罪过啊!
整个课程中对统计所持的观点和态度,我最欣赏的是Hui Zou和Jiashun Jin老师.
上个学期快结尾时,我和小南决定找点东西做做.左看看右看看,觅了个距离测度学习来研究研究,这个在matlab中已经有了相应的包,只是功能并不是全,于是我们觉得把这个还算有点意义的东西写成R包,算作一个短期的学习.
不过人总是有惰性的,上个学期末我写了个距离测度学习的总结草稿,本打算寒假时候开始R包工作,但是谁知寒假毫无动力,堕落的只剩下吃喝睡觉.伴随着这个新学期的开始,毕业论文现在还没有眉目,距离测度学习这个东西小南却已经在github上开了个头,哪有半途而废之理.于是经过一天的梳理,我把这个总结的文档又重新完善了一下,虽然没有任何实例,但是对写R包还是很有帮助.现在赶紧挂出来,也算给自己一个督促吧.毕竟还有个毕业论文等着我呢.
距离测度学习文档总结.
酱油掉"树蛙"比赛后,深感遗憾.准备删掉这群"推荐系统"的文献前,还是做个记录,起码比赛前的那段时间看的那些推荐系统的文献,让我知道了推荐系统还是挺有趣,思想平易近人.更重要的是,让我等从未真实玩过"树蛙"的文盲,终于深刻体会到多挖挖数据比做一个模型重要得多.
Recommendation".只可惜当时用R写的代码慢的让人自杀,不得不放弃,于是用R整理好数据后,让同学代写C程序(大一时候学的C已经忘得差不多了,真是深感惭愧).但是谁知道一直有个BUG没有解决,直接导致我们最后参赛结果:0提交!择人不善啊~~以后还是找个靠谱的熟悉矩阵的同学来写C代码吧.模型思想:根据推荐者与被推荐者的features与得分矩阵做拟合,得到推荐与被推荐者features之间权矩阵,然后预测得分.直接了当!模型评价:elegant!思想简约,有数学显式解,对推荐系统的冷启动问题效果应该不错.但是不知道对这次婚介的数据做出来效果是否好,真希望我们能够把那程序完善,去测试一次,了结心愿.
次选模型论文"Hydra: A Hybrid Recommender System".也很不错,将需要的features信息都能够较好的连接起来,也是通过这个文章,知道了有个对等网络这玩意,也还不错.缺点就是在原基础上扩展的矩阵会很大,特别是对于这次婚介的推荐,SVD做起来消耗估计也会很大,不会太快,效果可能也比较一般.所以对于特征的选取还是得靠前期的数据了解,知道哪些人的特征在此数据中可以省下很多工作.跟这篇文章相关的文章很多,提高精度也罢,改进模型也罢,反正看着挺好,就是不知道用起来如何...sigh~~
"A Singular Value Decomposition Approach Recommendation Systems"这篇文章还是讲SVD的,但是感觉看了那么多论文,感觉这篇文章前面的Introduction介绍推荐系统比较系统全面,如果对推荐系统问题有了较好的定位,我觉得不管做哪些问题,思路都会清晰很多,把握住了问题的关键点,这样结果才会有好的突破.当然这篇文章也详细论述了SVD用在推荐系统的实际意义.
最后再提一个我和小南都认为很不错的论文"Learning User Preferences in Online Dating",思想很简单,高中生也能不过很能够解决问题.当然这篇文章有个致命的缺陷:数据获取,要能够获得双方发MSG时候的信息.这个实际中估计是是不可能的,所以这篇文章只能提供一个比较好的思路,不能解决实际问题,仅供把玩~~
至于协同过滤的东西,看了挺多,觉得这个东西重要的不是数学,而是他的思想,比如从USER变换到ITEM就可以获得一个很大的突破,真的是让人感觉很畅快.
比赛早已落下帷幕,小南说他已经把PAPER全扔进了垃圾桶,我也想删掉这群文献了.虽然结果让人很XX,但是没有关系,起码都获得了很多,这点只好深埋心里,笑而不语也.看排行榜龙争虎斗也是快事一件!
记得还是年前那会,我和小南在"八哥"小店吃饭,两人商量着美赛的事情,我一时兴起,想了个无聊的点子:互相帮对方设计下未来1年半的路途,立下字据,1年后看完成的怎么样.于是操起桌上的菜单,刷刷龙飞凤舞起来.paper,MCM,信安比赛,paper,旅游,TOFFEL,GRE,paper,毕业旅行...一路写的眼冒金光,仿佛世界已被我们主宰,然后顺风顺水的过完了整个大学...那时,两个年轻人真是幻想加激情,笑声都轰天震地.
今晚,我翻开钱包,那张纸虽然破烂,但是还是被我好好留存着,看着上面满满的计划,不禁内牛满面.想起小南那篇的文章.狗屁般得论文与绚烂的排版形成的鲜明的对比,让我满心的愧疚与伤感.再回头看看数据挖掘比赛,更是让人无语凝噎.只好作罢,留作下次来谈谈对推荐系统的心得了.今晚,先聊一个自作孽的抽样调查.
其实这个本是开学前就该完成的课程设计,但是当初雄心勃勃,想写出一篇"唱作"俱佳的好文章来,于是一腔热血的跑向中南的湘雅医院,找了个心理学研究生准备做个"人格与人际交往"方面的研究.后面也定好了位,研究"大学生人格因素与人人网人际交往以及现实人际交往的关系".本以为可以借着现在的社交网络研究热来给心理学也点点火,本以为心理学测量这东西水不深,本以为一切都是顺水推舟的事情,但是"一入侯门深似海,从此萧郎是路人".从此我对心理测量敬而远之,还是看看实用心理学罢了.
其实通过这次做问卷设计,我认识到问卷搜集到的数据其实可以是很可信的.只是许多没有相关专业背景和统计学背景的人把问卷胡乱一通的用,导致人们一般认为得来的问卷结果是受试者敷衍的回答罢了.对于心理学量表来说,这些问卷的设计很多很精妙,除非如果你自认为你能考虑这些问题的设计会比心理学家更加全面,但是一般没有受过专业心理学训练的人是不可能做到的.一份成熟的量表,我们考虑的问题,都已经被心理学家考虑到了.当然问卷是一个双方互动的过程,很多测试问题我们感觉很浅显,都知道他问的方向,但是此时我们需要做的就是诚实做答,这样一份好的问卷才能收到一个好的效果,不然问卷就没有任何意义,一个人也永远别想从专业心理学角度了解自我,发现自我.
现在的社会人们更加机灵了,不愿意这么明显的在问卷中暴露自己,怕被骗或者被利用,这种保护心理是可以理解的,但是殊不知每天我们那些无意识的网络行为其实也被人利用了呢?无意识的暴露和有意识的暴露都不重要,因为都可破解,重要的是我们愿不愿意配合各种调查的进行.
问卷设计和问卷调查是一门艺术,或者说很多文科性质的东西也是艺术,因为他们研究的对象很多都是人或者人的行为,难以捉摸这才是魅力所在.不是所有的东西都可以被定量化,如果都程式化研究,也就没啥意思了,人不是电脑,不是数学方程式呀!
不过话说到最后,我还是喜欢定量化研究,因为我喜欢数学,简洁,具有形式美.
###竟然发现这篇辛辛苦苦写的文章不见了,1年前我的理解的还是挺正确的 by 2011.9###
最近一直不能很好的理解回归中最小二乘的意义,首先就被一个傻傻的问题困惑:假设试验中没有系统性的偏差或者人为的失误,而误差是不可控的,为何要对误差求其平方和的最小值?这个最小到底意义何在?
虽然书上回归分析所得的结论都是很自然,但由于这个方法的前提(历史)我不十分清楚,内心甚是不安,总有种被人灌了酒,模模糊糊接受了结论之感.于是立马查阅相关史料和名家所写的各种回归分析的书籍,梳理下对回归分析的认识.
其实可以这么说,回归分析是线性模型中误差分析的推论而已,只是之前没有一个完整的数理统计框架,没有一个对回归分析意义的清晰解释罢了.因此,要想很清楚的理解回归,必须要从误差论开始,从最小二乘法的历史来源开始.
最小二乘法最先由数学家勒让德在测量子午线长度时候,为了解决方程个数n大于未知数k的矛盾方程组发明的方法(这里还有一段与高斯的发明最小二乘优先权的故事,勒让德是1805年发现,理论上还是比高斯的1809年早).这个式子是
现在我们按代数的观点看的话,如果要解出各个 的精确值,很可能是不存在的,历史上像欧拉,拉普拉斯这样的大学者也尝试过解决这个问题,可能是他们更习惯于求解提法严谨的数学问题,因此对于这种实用性的数据处理问题,一直没有什么建树.直到勒让德发明最小二乘法,这个问题才算得到了不错的解决.
其实勒让德思想看起来是挺自然的,但是我却仍然困惑,最小二乘得到的结果顶多是个最好的估计罢了,而误差是不可控的,你怎么能使其平方后相加能够变的小呢?所以此时的最小二乘法只是个算法,并没有体现什么更深刻的思想.因此我们还是得沿着历史的轨迹,去寻求更完美的解决方案 -  - 误差与正态分布.
误差论的研究最初起源于天文学,而天文学之于数理统计发展,丹麦统计史学家哈尔德在其著作指出:"天文学自古代至18世界是应用数学中最发达的领域,观测和数学天文学,给出了建模的及数据拟合的最初例子.在这个议一下,天文学家是最初一代的数理统计学家......天文学的问题逐渐引导到算术平均,一集参数模型中的种种估计方法,以最小二乘法为顶峰."
这里既肯定了最小二乘法的显赫地位,同时也指出这种地位的确立,极大程度上取决于误差理论的建立,如果没有这样一个理论,最小二乘法只是一个算法,没有了与统计分析相联系的纽带,于是就会依然回到之前那个问题 -  - 对不可控的误差求最小平方和的意义何在?
误差理论研究的基本问题是指:随机测量误差服从怎样的概率规律,既有怎样的概率分布?
其实我们根据现代的概率论观点,由拉普拉斯中心极限定理,很容易知道误差的分布是符合正态分布的.当然现在看来是十分简单的,但谁都知道,那个时候还没有严谨的数理体系,早期天文学家根本不知道中心极限定律是啥,现在看起来简单的问题,从前可能就是一个难题,可见科学的发展是多么的不易.因此了解误差理论的发展,对回归的认识非常有益.
随机误差的开拓者 -  - 伽利略从第谷的观测数据,提出观测误差的3个条件:
1.所有的观测值都可以有误差,其来源可归因与观测者,仪器工具及观测条件.
2.观测误差对称的分布在0 的两侧(排除系统误差)
3.小误差出现的比大误差更频繁.
他的尝试是在误差满足某种分布下,计算平均误差的分布,从而证明在某种概率的意义上,平均误差小于个别误差.虽然他的工作并未触及建立一般的误差概率理论的问题,但是有一点很重要,就是撇开位置的真值不论而把注意力放在误差上.这样就把问题给简化了.
随后拉普拉斯也进行了研究,与Simpson不同,不是先假定一种误差分布后设法证明平均值的优良性,而是直接涉及误差论的基本问题,即误差分布是怎样的,有了分布后,再如何根据未知量 的多次测量结果估计 .当然这是一条正确的思路.可惜的是,拉普拉斯没有想到用他的中心极限定律,而当时也没有估计参数的矩法和极大似然发,于是他用了贝叶斯式的推理方式去求解,但是由于他的误差概率密度分布(现在我们常见的拉普拉斯分布)不对,因此后面的计算非常复杂,后面他虽然仍在这个问题上耕作了几年,但是仍没有得到理想的结果.
这时终于要轮到高斯登场,高斯正态误差分布也即将横空出世.此处简单介绍下高斯求解的过程.
然后取使是概率最大的 作为 的估计,同时先承认算术平均值 为应取的估计,然后高斯证明,这样的取法只有误差的概率分布为正态分布 时成立.具体证明略去,有兴趣的可以自己根据伽利略所提的误差概率性质,再结合一些函数知识便可以证得.然后再根据概率最大原则便可得出最小二乘估计式,至此,高斯便赋予了最小二乘了更深刻的意义,把它与数理统计结合了起来.
当然那个时代高斯正态分布还不能体现其深远的影响,直到20世纪正态小样本理论充分发展起来以后才充分显现.但此刻我反观高斯正态分布,再看看现代的数理统计结构,由高斯导出的理论简直充满了我的眼球,很多地方都可以有他的身影,那回归分析简直就是高斯重生了!所以我不得不感叹,高斯真真真是个天才!
但是崇拜之余,这并不表明了高斯创建的误差理论已经十全十美,细细品味,高斯的论证有循环论证的味道:由于算术平均的优良,推出误差必须服从正态分布;反过来又由正态分布推出算术平均及最小二乘估计的优良性.而算术平均到底说来,总是没有一个自行成立的理由,只是从古到今,人们除了平均下,没有太好的选择,而以它作为理论中一个预设出发点,终有其不足之处.直到后来拉普拉斯终于开窍,用了自己的中心极限定律轻松证明了各种误差之和组成的随机变量近似正态分布后,误差论终于完美建立,随后高斯又证明了一系列最小二乘估计的优良性质,其中最著名的就是高斯-马尔科夫定理,而这个定理的高明之处在于,说明了没有啥估计还能比用最小二乘的得到的参数估计方差还小了.换句话说,我就是稳定可靠,没有比我更好的了.
至此,我们可以看到误差理论的发展已经能够达到了很深的水平,如果高斯他们知道高尔顿的工作,那么真的不再是高尔顿发现回归,而是高斯了.当然话也不能这么说,回归需要对事物间的关系有更深层次的认识,也许从数学理论上来看,回归分析不过是误差理论的简单推论罢了,但是从思想上,它是无法以此类推.科学史的发展就是如此,理论数学家已经把数学弄得出神入化,数学的东西一般都不缺,缺的是一个创新运用的思想.
总结:误差理论的建立,使最小二乘法不再仅仅是一个解决矛盾线性方程组的算法,而且让他有了更深刻的统计意义.这也是为什么我不太接受勒让德的最小二乘,而接受高斯的最小二乘的原因,最大似然更能触及概率的本质.而高斯建立的正态分布的误差理论的全部影响需要直到正态小样本理论充分发展起来后充分显现出来,同时他也让后面的回归有了更深刻的背景.按我的理解,回归分析其实就是各种影响因素叠加后,在宏观方面上对几个因素关系的分析,说到底,他只是求条件期望后平均值意义上的误差分析.这也是为什么一旦这些随机误差的假设条件不满足时,回归方法需要改进.因为高斯的最小二乘法是建立在随机误差正态分布上的,如果不满足随机,不满足正态性,不满足独立性,最小二乘法很容易失效,回归效果会很差了.因此我们会用岭回归,LASSO,M估计等方法来解决,而至于回归的深刻含义,留作下一节继续.
P.S. 今天老师讲解计量时突然讲不清楚 残差和为何要用 检验,我感到很是悲哀,因为这正是误差正态假设的前提下很自然的结果.
奥运420亿美金,60国庆开销...不明,反正上了百 亿,世博4000亿RMB,09年全国新开工高速公路计划总投资约 7000 亿元,沪杭磁悬浮上1000亿只为节约十分钟...然后我党给 水深火热中的西南五省下拨抗旱经费 - ...1.55亿元.
这是我从一个同学的博客上抠下来.其实我也没啥意思,只是最近不管是寝室内还是寝室外,总听到不少人在骂dang不人道,不太管西南老百姓的死活.而一同学天天粘着猫扑上,更是大骂社会不公.
当然我没有那么愤青,听着这些话,总觉得网络语言中有太多的戾气和不理性.人们对数据的比较始终充满了主观性,特别是数据的比较,缺乏统计人的理性.其实我也不是为dang做什么辩驳,只是觉得上面这种数据的比较除了激起不明事理的人的愤怒感,没有太大的作用(当然会促使dang拨更多的钱给西南,但是难免其中又有贪污了).国家的财政预支都是上一年就做好的了,如果咱国把应急预险的预算做到和世博一个价位的,不知道有多少人会跳起来大叫"疯了!疯了!"国家有国家的打算,个人有个人的看法,如果我们总是从自身出发看问题,缺乏大局的眼光,那么我们总是会被别人的思想牵着走.
有些人觉得国家搞个奥运会,弄个世博会,再折腾个磁悬浮,花了那么多钱,仿佛是关心形象工程,而对于真正的民生,比如西南大旱却吝啬如高老头.对这我不想发表太多的言论,一个中心两个基本点,主要矛盾与次要矛盾.国家要发展,强健民心的工程必然是不可少的,而对于自然灾害,国家肯定有自己的打算,目前据说国家已经拨了20几个亿给西南了,这对于缓解居民的基本生活困难帮助应该不小了,但是这肯定无法从根本上解决问题,钱不能让老天马上下大雨,根本问题是如何加大水利建设和环境保护工程,增强抗旱的能力.所以20多个亿了,数目还是不小的,毕竟对于一次自然灾害来说(当然无法与汶川大地震相比较的).
不要看到和世博那比起来这些钱是那么的寒碜,然后就怒气冲冲的找国家说理.一同学说的好,"西南大旱又不是建磁悬浮引起的."一群人抓着个数据就像抓着个宝样,这不是个好兆头,特别是一群不懂数据,不明事理的人(当然我也不明事理),这样只会让自己愤青升级,一天到晚张着个嘴骂这骂那,而什么实事都不做.问题是要来解决的,关键看你用什么手段解决.咱要理性点,是好是坏,咱也不是瞎子,咱也是明了的.
前几天在 主站上看到一篇谈Monte Carlo求定积分的方法的文章.记得去年我学 时,求定积分便用到了这两种方法,而在上概率论课时,老师也略微涉及到相关的内容.当时的感觉时,定积分这种一般用确定型算法计算的东西,竟然还可以用随机的方法来实现,确是一种非常巧妙的思想,( 是摩纳哥的一个赌城,二战时 一伙人研究原子弹时弄出来的方法.)于是被震撼,也没有再深究其中更详细的内容.
但是昨天一看到这篇文章,便想起寒假时候看的那本"计算方法"中关于 平均值方法的论述,而最近在上计算方法的课,正纠结与一堆无聊的误差计算中,于是便再次翻开此书看看,竟发现了一些一直没太注意的很重要的章节.
从中便可知 法具有半阶收敛性,且收敛阶不依赖问题的维数,这样在计算高维积分的时候,比较优越.但是收敛速度还是很慢的,是一个比较坏的收敛速度.因此在有其他高效率,高精度的确定型算法时,就不要采用 法,那是在没有更好的算法时更好的抉择,比如超高维积分.
由均方误差可知,要提高 法的精确度,那么久必须得增大 ,减小 ,也就是说,要增加样本量,同时改善抽样方法的选择,这时便有很多方法选择,书中提到了四种方法,我就谈谈我的理解和试验.
理论证明知这样方差减少,具体证明式子较多就不再写,否则就是一本教材的翻版了.
I=mean(y)
但是这种方法只是对于定义域有一定对称性的函数,如果对一种函数先验了解不多,而且对称性不知,则运用会出现失误,所以具有一定局限性.
这样得到类似于最初最简单的那种均值法的新的形式积分近似 , 为遵循p(y)的独立同分布随机变量(i.i.d)而之所以这样构造,可以根据这幅图来理解, 当 占 很少比例(即图像的边缘部分),尽可能的不让随机点去计算这些值,这样的"拟合"积分较好(面积)否则很多的随机点在 外,为计算小比例的东西做贡献,这样必定精度较差,所以我们要期望尽可能的值出现在峰值处.我们称其为"重要性"抽样.只要选取适当的 就可以使方差减少.
当然不可能是 ,这在图的模拟便可知, 不可能与 相合的同时,还有 .但是 难以选择,需要对问题先验有了一定的了解程度才能适当选取.比如对于正态分布求 ,我不太好选 ,就没有做相关的模拟了.
总之,正如书中所言,减小误差都只是具有指导思想的意义,具体问题,往往需要我们对被积函数有先验的了解,才能够减小误差,提高精度.确实如此,我的例子都是比较特殊或者简单的,如果对于复杂的问题,而且对该函数比较怪异少见,那么在以上的方法中寻找什么 ,都是一项非常艰巨或者不可能完成的任务.因此,我下一结论,奇技淫巧之所以巧无外乎我们有了个千里眼和顺风耳,瞎碰瞎撞弄出一个巧妙的解法那是很难的,大部分都是前人解法突然激发灵感得来(此时此刻竟想起了贝叶斯来...).所以对于专门解决高维积分强有力算法 -  - Metropolis算法我是敬佩有加,这一算法2000年惊被评为20世纪十大算法之一.后面产生的什么模拟退火,拟 都与他有莫大的渊源.而伟大的东西终究充满了高深而深刻的东西,我目前楞死没有看太明白,已经被符号给堆死了.但是我想过段时间在查阅相关资料应该可以弄明白吧.
以前学的是用n个均匀分布随机数由中心极限定律构造,但是那个要得到较好的精度需要N很大,故需要精确的还是用上面的那个方法更比较有保证,咱看公式也心安嘛.
准备写这篇博文的时候,才发现自己不知道什么时候链接到薛定谔这个天才的物理学家身上来的.也许应了 Milgram 的六度分割理论,在百度SNS的时候,竟通过一堆链接便链到了这位可爱的物理学家,这就是缘分!
只记得在校内某个分享史上最优美的物理公式时候,依稀看到过薛定谔这位大神的名字.而他的那个稀奇古怪的公式,真看的我头皮直发麻:
也不知道什么意思.
而今天百度到他时,才知道他是概率量子力学 -  - 波动力学的创始人,和我的统计专业还是有很大的血缘关系.于是兴致勃勃的瞻仰他的生平事迹.很快我就被他提出的一个悖论给吸引住了:薛定谔猫态.
实验内容异乎寻常的简单:它被封在一个密室里,密室里有食物有毒药.毒药瓶上有一个锤子,锤子由一个电子开关控制,电子开关由放射性原子控制.如果原子核衰变,则放出α粒子,触动电子开关,锤子落下,砸碎毒药瓶,释放出里面的氰化物气体,猫必死无疑.
但是推论却是令人非常意外:当它们都被锁在箱子里时,因为我们没有观察,所以那个原子处在衰变/不衰变的叠加状态.因为原子的状态不确定,所以猫的状态也不确定,只有当我们打开箱子察看,事情才最终定论:要么猫躺在箱子里死掉了,要么它活蹦乱跳地"喵呜"直叫.问题是,当我们没有打开箱子之前,这只猫处在什么状态?似乎唯一的可能就是,它和我们的原子一样处在叠加态,这只猫当时陷于一种死/活的混合.
我没有学大学物理中的量子力学,所以对薛定谔方程本身就没有什么很深刻的理解.但是按我理解这个悖论,那就是现实的真实性与观测(或者说是理论计算)的关系.但是纯粹的观测对实验的结果又没有影响呢?
从我学统计以来,便慢慢有了一些想法和疑惑.我一直在想,概率是什么?现实事件的发生似乎是不确定的,但是经过观测,大量的发生似乎又有了一定的确定性,就和量子力学的思想一样:除非进行观测,否则一切都不是真实的.
特别是当学到大数定律中心极限定律以后,再反观之前的那些古典概率问题,有了一种特别奇特的感觉,似乎少量的实验得不出比较准确的结果,大量实验才能揭示出本质;且少量的实验似乎将会很容易让我们出现一些判断的失误.
一个硬币投下来或正或反,这个与经验常识还比较符合;但是一只猫在密室中不死不活,这个就大大的违背了常识了.当然这个问题扎痛了哥本哈根学派的量子论,也让我百思不得其解.因为学概率学久了,我也有了一些唯心的感觉:存在即被感知,世界是由不确定的,随机的事件构成并决定;只有最后的测量,我们才能够肯定一个事件的存在性.我隐隐约约觉得被灌输着一种思想:世界的本质就是不确定性.
而之前我被一个古典概率困扰了很久也跟这种思想有很大的关系.在那个问题中我认为其中球的可辨与不可辨与我们实验过程有很大的关系,虽然最后观察的事件都一样,但是这种每一次的测量都是以各种可能性的"塌缩"(借用物理中的概念描述)到一种结果告终的,所以最后的测量必然要与我们实验过程中的感知有关.换一种说法就是在我们投球时候,是否做到了等概率性(随机性).我们感知着球,如果一次一次的投,必然心中会默认将其编号(不管每个球是否一样),这样就导致了球的可辨性;而如果我们一次性的投所有的球,无法感知球,那么球就丧失了可辨性.而最后我们观察的结果便将对应一次我们实验过程,将所有的可能性实验做完,便可以计算概率.但是这样做(类似暴力计算)与一般我们的计算结果将会有出入,特别是不可辨时.一般的计算将从最后的结果出发,只决定论式看最后的可测的结果,而不管过程;而我思考的过程恰好反了过来,我从过程进行出发,再到结果的计算.一句话,就是两种因果论调不同.当然此时这种因果分析与薛定谔猫的问题有偏差,与"蝴蝶效应"和"外祖母悖论"反而更接近些.但是我最初的那个问题依然存在,什么是概率?就比如上面这种投球,这种所谓的概率对一次结果没有什么必然的意义(当然这不是一个好例子),而薛定谔猫更是提出了让概率难回答的更现实的问题.
浏览一些量子力学的网页我渐渐觉得,决定论样的量子论诠释更能坚定我内心信仰.而对于自身学的概率统计,也应该以决定论的观点去看待.如果以人的感知来测量结果,很容易就陷入了主观唯心的困境.概率统计对于问题的描述是一个很好的工具,但是最后的结果无法不确定(当然在量子力学中,微观世界的运动是很高速的,一次单独的结果描述不是那么的有效,用一组结果来描述反而更有现实意义.因此概率量子力学与现实的经验结果也符合的很好.但宏观世界中应该是没有必要做如此处理的,没有必要还说对着一枚硬币正面说他出现的概率是0.5.)
究竟是必然还是偶然决定了宇宙的命运?我想上帝没有在玩骰子!
很久没有更新博客了,主要最近到了考试周,忙于复习,虽然有一些想写的东西,但是时间的缘故,就只好暂且搁置着了.但今天复习概率论时,又想起了很久前遇到的一个题,仍然没有一个好的解答,虽然今天想的时候,已经有了一些新的想法,特别对概率空间这个概念有了更深的认识,但对这道题仍然是感到很模糊,已经有被折磨仙仙欲死之感,故赶紧拿出来与大家探讨.
在古典概率中,我们经常遇到一种模型.题目如下:将 个球放到 个盒子中,恰有 个空盒子的概率是多少?
看到这样的题,我们第一反应是什么呢?
但是如果上来,没有对这个题的题目进行思考就像上面那样进行求解,,那我们怎么做这道题都是错的.因为这说明我们对概率空间这个概念还没有捋清楚.而这道题中的样本空间确实根本没有说清楚,我们是无法一概而论的.
而这样一分后,我们就可以清楚地看到,他们之间的样本空间确实是不一样的当然 域也不一样.(我们可以用暴力算法进行验证下,比如 个球, 个盒子)
一般来想,最后一种情况其实是最好解决的,即盒子可辨,球不可辨.求解如下:
样本空间有样本点数是 即最终可以分辨的结果总数.有效的样本数量是  然后相除即可得相应的概率.这种结果在许多书上都有讲解.意思也非常好理解,方法就是用到了我们高中曾经常提到的第一,二隔板法.
我们再对生活中常见的第二种情况进行求解,即盒子与球都可辨.而这也是我们中很多人上来就说总的情况数有 的那种情形的求解.
这个复杂些,他的样本空间有样本点数为 即每一种排列都是不同的(假使我们将球进行全排),然后也是先从 个盒子中挑选出 个空盒,然后再对另外 个空盒均有球的情况下进行求解,而这也正是求解的复杂之处.这个的求解方法前面提到过,就是求对立事件.先求至少有一个盒子是空的,然后在推广到 个盒子空的.此时 个球, 个盒子,至少有一个盒子是空的概率,这个大部分人还是会求解的,用到的方法就是我们常用的概率一般加法公式.具体过程就不在写了,然后可以得出对立事件没有盒子空的概率,
其余的两种情况就不讨论了,思想是一样的,但是求解起来,第一种应该是最难的了似乎很糊涂,而第三种情况单个具体情况的计算还比较好,但是要写出通式来,似乎也是一件很麻烦的事情,能力有限,就不做进一步求解了,当然大家可以继续求解.
说到这,下面我们谈谈在统计物理学中的几个统计.
麦克斯韦-波尔兹曼统计:研究的球是可辨的(在物理中,粒子的性质是不同的,经典统计中,认为粒子是可辨的,他适用于经典粒子系统,如气液固中的原子分子,布朗粒子等).
波色-爱因斯坦统计:球是不可辨的(在物理由量子力学统治的微观世界中,同类粒子的是绝对不可辨的,即微观粒子的全同性.而不同类粒子,就相当于不同(可辨)的盒子).
费米-狄拉克统计:在微观世界中,粒子也是不可辨的.在宏观世界中就等同于此类模型:印刷错误,此时错误都是不可辨的,而一个字母最多只可有一个错误.
回到这道题,麦克斯韦-波尔兹曼统计对应的是第二种情形,波色-爱因斯坦统计对应的是第四种情形,而费米-狄拉克统计是第四种情形中的一种特殊情况.
这些统计就是古典概率中比较典型的例子,对于上面的这道题,如果没有对等可能性理解清楚,很可能就出现了悖论,出现多个答案.而这个在古典概率中是很容易犯这样的错误的.比如非常著名的Bertrand奇论等可能性不同的定义,导致了完全不同的答案.因此这也正导致概率公理化的必要了.
抽象空间中,首先有样本空间这个理论基础,即所有样本点构成的集合;然后有了 域,有封闭运算的基础,再加上域中的规范测度,对其中 域中的事件发生提供度量工具,这样一个概率空间就完整而严密的建立起来,没有像等可能性那样任何模糊的描述.
另外,我也对可辨与不可辨这个问题有了新的认识,费勒"概率论及其应用"(第3版),(注:我主要是参考这本权威的书籍)中对可辨与不可辨的区别解说是"类似于子总体与相应有序样本之间的关系".换句话说就是组合中,一个组内部的元素相互之间是不可辨的,而不同组间的元素的可辨性又依赖于盒子的可辨性(有序样本).但这样的解释过于理论化,我也被这样的解释弄糊涂了半天.其实用最简单的话解释就是把这个元素和其他的元素换位子,如果对整体的排列没有影响就是不可辨的,有影响就是可辨的.从而也就解释了第二种情况每个盒子内部的球是不可变辨的,而整体所有球还是可辨的.这样的解释可能更让我这样的人更易懂,更浅显些吧.
最后依然对以上仍残留的两种情况对费勒的书中提出一点疑问:
对于盒子不可辨,球可辨的具体情况,费勒给出了 球, 盒子的例子.因为球可辨,盒子不可辨,可知这样的不同的分布有 种,然后除以 .这里,我用 球, 盒子的情况进行了比较判断,如果出现 , , 的分布,按费勒算的结果是 ,但是如果我们进行暴力求解,列出所有可能的情况,我写出了 种情况(盒子不可辨,球可辨),因此我算出来的结果是 ,与这个有很大的出入,我想问题可能依然是等可能性的判断与可辨与不可辨引起的,但是暂时仍没有太好的理解,已经被古典概率中的模糊性打昏了头脑,故希望与大家探讨.
到此,叹一句,古典概率挺难的!期末临近,概率论仍需努力!