尽管公元前3500年左右腓尼基人在沙漠上烹煮食物时就于无意中发现了玻璃的制造方法，但直到5000年后，人类才掌握了将玻璃磨成透镜并进而制成望远镜的方法。在13世纪时，放大镜已经非常普及。

17世纪的荷兰商人利伯希（Hans Lippershey）通常被认为是望远镜的发明者。1608年，他与雅可布·梅提斯（Jacob Metius）几乎同时申请了可以“看到远方的东西，仿佛它们就在身边”的设备的专利。但实际上，他只是第一个将这种新设备——把一个凸透镜和一个凹透镜安装在一个管子里——广而告之的人而已。

1609年，伽利略在听到利伯希有关望远镜的工作的消息后不久，就自行制造出了一架小的天文望远镜。这架望远镜只能提供30倍的放大率，而且视野非常狭窄。事实上，如果不调整望远镜的位置的话，伽利略只能看到1/4张月亮的脸。但是，伽利略还是利用它观测到了月球陨石坑、太阳黑子、木星的4颗卫星、土星环，并指出银河实际上是由许多恒星构成的。

1672年，牛顿提出了一种新的望远镜设计概念。区别于伽利略的折射望远镜，牛顿的新望远镜使用一面凹透镜将光线聚集并反射到焦点上，因此被称为反射望远镜。反射望远镜的反射镜就像一个水桶一样，水桶越大，装的水越多，反射镜越大，能够收集到的光也越多。这种设计使望远镜的放大倍率达到了数百万倍，远远超过了折射望远镜所能达到的极限。

虽然基本原理一直不变，但牛顿使用的6英寸直径小铜镜却在随后的岁月里逐渐被更大口径的折射镜所取代。1845年，威廉·帕森（William Parsons）在爱尔兰建成了一架口径为72英寸的反射望远镜。直到1917年为止，它一直占据着世界最大的反射望远镜的宝座。

1930年，德国天文学家伯哈德·施密特（Bernhard Schmidt）将折射望远镜和反射望远镜的优点（折射望远镜像差小但有色差而且尺寸越大越昂贵，反射望远镜没有色差、造价低廉且反射镜可以造得很大，但存在像差）结合起来，制成了第一台折反射望远镜。这种望远镜被称为施密特-卡塞格伦望远镜，是目前最流行的天文望远镜。