1907年5月18日，王淦昌出生于江苏常熟县枫塘湾。先读私塾，1916年转入太仓县沙溪小学，13岁到上海，就读浦东中学。1924年高中毕业，进入外语专修班。随后进入一所技术学校，学习汽车驾驶和维修技术。

1925年8月，考入清华大学。

1929年6月毕业于清华大学物理系，留校任助教，在吴有训教授指导下完成论文《清华园周围氡气的强度及每天的变化》，这是中国第一篇有关大气放射性的实验研究论文。

1930年王淦昌考取江苏省官费留学，到德国柏林大学威廉皇家化学研究所读研究生，师从著名的女核物理学家L 迈特纳（Meitner）。

1931年，王淦昌在德国就读研究生期间，提出可能发现中子的试验设想，1932年英国科学家查德威克按此思路进行试验发现了中子并获得诺贝尔奖。

1932年，王淦昌在迈特纳指导下，发表了《关于RaE连续β射线谱的上限》的论文；同年12月完成了关于内转换电子研究的博士论文，获得博士学位。曾去英国、法国、荷兰、意大利等国做学术访问，访问了卡文迪许（Cavendish）实验室等欧洲著名科学中心，会见了卢瑟福、查德威克、埃利斯等物理大师。

1934年4月，王淦昌回国。先后在山东大学、浙江大学物理系任教授。王淦昌在这一时期，培养出一批优秀的青年物理学家，其中包括诺贝尔物理奖获得者李政道。

1941年，王淦昌在《关于探测中微子的一个建议》的论文中提出，通过轻原子核俘获K壳层电子释放中微子时产生的反冲中微子的创造性实验方法。1942年1月，美国《物理评论》（PhysicalReview）发表了这篇短文，此项成果荣获第二届范旭东先生纪念奖。 1947年9月，王淦昌作为访问学者前往美国加州大学伯克利分校从事研究工作，他与S B 琼斯（Jones）合作研究有关宇宙线中介子衰变的问题。