1889年4月26日，路德维希?约瑟夫·约翰·维特根斯坦出生于当时是奥匈帝国的维也纳。父亲卡尔·维特根斯坦是欧洲钢铁工业巨头，母亲莱奥波迪内(Leopoldine Kalmus)，哈耶克外祖父之姑表妹，是银行家的女儿。

路德维希在8个子女中排行最小，有着四分之三的犹太血统，于纳粹吞并奥地利后转入英国籍。

维特根斯坦自幼跟随兄姊在家里接受教育，然而家庭教育的结果却无法使其达到正规高中的接纳标准。直到1903年，在通过入学考试后，前往林茨的一所以技术著称的中学学习，和阿道夫·希特勒是同学，不过尚未有确凿的证据，表明这两位重要人物有过任何深入的交往。曾经有过自杀的念头。维特根斯坦在中学的成绩并不好，大都处于中下水平，在度过了3年的不愉快后，更带着高考的落败离开了这里。

少年路德维希爱好机械与技术，10岁时就制出过一台简单实用的缝纫机。其最初的志向在于物理学，曾经渴望师从著名物理学家玻尔兹曼。然而，玻尔兹曼于1906年自杀，使得维特根斯坦的希望毁于一旦。

随后维特根斯坦又立志成为一名工程师。1906年，维特根斯坦前往柏林学习机械工程。1908年，进入英国曼彻斯特维多利亚大学攻读航空工程空气动力学学位。期间，为了彻底搞清螺旋桨的原理，同时出于对数学基础的兴趣，维特根斯坦阅读了伯特兰·罗素与怀特海合写的《数学原理》以及戈特洛布·弗雷格的《算术基础》。

在1911年夏天拜访了弗雷格后，维特根斯坦听从了这位逻辑学家的推荐，前往英国剑桥大学三一学院问学于罗素门下，后成为英国哲学家罗素的学生兼好友，罗素称这场相识是他一生中“最令人兴奋的智慧探险之一”。

第一次世界大战开始后，本可免服兵役的维特根斯坦作为志愿兵积极入伍，在战场上完成了标志所谓哲学的语言学转向的《逻辑哲学论》的初稿。《逻辑哲学论》后，他认为所谓的哲学问题已被解决，于是怀着贵族式的热忱前往奥地利南部山区，投入格律克尔倡导的奥地利学校改革运动，成为一名小学教师。

有着理想主义追求的维特根斯坦在这里过着苦行僧般的生活，对学生也充满了热情，然而却被无法理解的家长们视为“疯狂的家伙”，他们拒绝了这个古怪家伙提出的收养其中一个或两个学生的要求。1926年，被证明总是与成年人格格不入的维特根斯坦离开了“粗俗愚蠢的南部农民”，结束了乡村教师的职位。

作小学教师“失败”之后，维特根斯坦先是在一个修道院里作过短时间的园丁助手。后来其姊玛格丽特由于担心他的精神状态而设法要求其协助设计并负责建造了自己的一处宅第。这个后来曾被用作保加利亚使馆的建筑物，使维特根斯坦获得了建筑师的身份。

1927年，维特根斯坦结识了奉《逻辑哲学论》为圭臬的“维也纳小组”成员并应邀参与一些活动，与石里克、魏斯曼等成员有过交往，然而维特根斯坦拒绝加入他们的圈子。

1928年春，在听了数学家布劳维尔在维也纳有关“数学、科学和语言”的一次讲演后，维特根斯坦重新萌发了强烈的哲学探索的兴趣。

1929年，维特根斯坦重返剑桥，以《逻辑哲学论》作为论文通过了由罗素和G.E.摩尔主持评审的博士答辩后，留在三一学院教授哲学，并于1939年接替摩尔成为哲学教授。

1947年，坚信“哲学教授”是“一份荒唐的工作”的维特根斯坦从剑桥辞职，以专心思考、写作。

1951年4月29日，身患前列腺癌的维特根斯坦在好友比万(Edward Bevan)医生家中与世长辞。他在逝世前的最后一句话是“告诉他们，我已经有过非常精彩的人生”。诺曼·马尔科姆形容这句话是“出奇的感人的话语(strangely moving utterance)”。在剑桥大学教师墓地为维特根斯坦举行了一个天主教葬礼。杜瑞后来说他一直困扰于这样安排葬礼是否合适。

去世后由弟子安斯康姆和里斯(Rush Rhees)出版了被认为是引导了语言哲学新的走向的《哲学研究》。

维特根斯坦的一生极富传奇色彩，被罗素称为“天才人物的最完美范例”：富有激情、深刻、炽热并且有统治力。