勇兵悍将“非火器战车不可御之”。朝廷派人到澳门向葡萄牙人购买大炮。滞留澳门的传教士们以军事专家的面目，跟着大炮随行，得以进入内地。
1622年夏天，汤若望换上了中国人的服装，把的德文姓名“亚当”改为发音相近的“汤”,“约翰”改为“若望”，正式取名汤若望，字“道未”出典于《孟子》的“望道而未见之”取道北上。1623年1月25日到达北京。
汤若望到北京后，仿效当年的利玛窦，将他从欧洲带来的数理天算书籍列好目录，呈送朝廷。又将带来的科学仪器在住所内一一陈列，请中国官员们前来参观。汤若望以他的数理天文学知识得到朝廷官员们的赏识。
他到北京不久，就成功地预测了当年10月8日出现的月食。后来他又准备地预测了第二年(1624)9月的月食。还用了一种罗马关于月食计算的方法，计算了北京子午圈与罗马子午圈的距离。为此，他写了两篇关于日食的论文，印刷分赠给各官员并送呈给朝廷。
中国传教会给他的任务是研究中国的语言文字与儒家学说，数理天文学以及传教工作只是附带的。他在北京见习了四年，在钦天监官员李祖白的帮助下，用中文写了一本介绍伽利略望远镜的《远镜说》，第一个将欧洲的最新发明介绍给中国，在以后的历法改革中起了相当大的作用。
《远镜说》刊印于1629年。该书前面有汤若望的自序，正文分四个部分：1.望远镜的利用，按仰观和平视分述，2.构成望远镜的各透镜的分别利用，如解决近视和远视患者的苦恼;3.光学原理，4.望远镜的制造方法、使用说明和保养说明。
《远镜说》从原理、结构功能和使用方法上详细介绍了伽利略式望远镜，全书通篇条理清楚、浅显易懂、图文并茂。成为传播光学和望远镜制造技术的奠基性著作，对后世有重要影响。
1627年，汤若望被派到西安接替金尼阁的传教工作。他在西安城内建立了一座小教堂，除了开展宗教活动外，他始终坚持科学研究。他研究了从西安通向中亚、中东和欧洲的交通道路问题。为此，他不断向过往商人、到北京向中国朝廷进贡的附件小国的使团，打听和记录他们行走的路线，经过的国名、地名、驿站名以及来往商品的名称、贸易状况等等。他据此写山详细的研究报名，寄往欧洲。他还花了不少时间考察了欧洲长期争论不休的契丹和北部中国的关系问题，理清了在中国的北部并没有所谓契丹的地方。旧日所谓“汗巴利可城”是蒙古语对北京的称谓。在地图上应置于北纬40度，而竞置于50度以上，位置太靠北了。他这些观点和利玛窦是一致的。
崇祯三年(1630)，由礼部尚书徐光启疏荐，回京供职于钦天监，译著历书，推步天文，制作仪器。同时，利用向太监讲解天文的机会，在宫中传播天主教，受洗入教的有御马监太监庞天寿等。
汤若望在历局期间，还同中国学者合作翻译了德国矿冶学家阿格里科拉于1550年撰写的论述16世纪欧洲开采、冶金技术的巨著“矿冶全书”，中译本定名为“坤舆格致”。此书编成后，汤若望进呈给朝廷，崇祯皇帝御批：“发下‘坤舆格致’全书，着地方官相酌地形，便宜采取”。
崇祯七年，协助徐光启、李天经编成《崇祯历书》一百三十七卷。又受明廷之命以西法督造战炮，并口述有关大炮冶铸、制造、保管、运输、演放以及火药配制、炮弹制造等原理和技术，由焦勗整理成《火攻挈要》二卷和《火攻秘要》一卷，为当时介绍西洋火枪技术的权威著作。
崇祯九年，汤奉旨设厂铸炮，两年中铸造大炮20门。为谋取天主教在各省的合法地位，十一年奏请崇祯赐“钦褒天学”四字，制匾分送各地天主堂悬挂。
清朝顺治元年(1644)，清军进入北京，明亡。汤若望以其天文历法方