汶上地处山东省西南部，东临古城兖州，西接水泊梁山，南依微山湖，北枕东岳泰山。东经116°40′—116°18′、北纬35°31′—35°36′，大部分地区处于平原地带，汶上县属北温带大陆性季风湿润气候区。总面积889平方千米。[35]根据第七次人口普查数据，截至2020年11月1日零时，汶上县常住人口为687544人。[34]
汶上县境内有大汶河，小汶河流经北部以及西部，又有泉河等河流流经中东部而后汇流到小汶河，包括县域下面的地下水也全部源于汶水的补给，汶上整个县域地处汶水之上，因此得名汶上。
汶上县境内山丘属泰沂山系，多为东南西北走向，纯山面积31平方千米，主要昙山、太白山（水牛山）、卧佛山、彩山、九峰山等。太白山醉似卧牛，亦叫水牛山，有摩崖石刻，唐代大诗人李白曾到此观赏，因此得名。
汶上县东北属古老泰山隆起的残丘低岭，西南部属古大野泽，梁山泊东畔，整个地势由东北缓顷西南，至高点为昙山顶峰，海拔171.7米；最低点在蜀山湖湖底，海拔36.5米，中部地势平坦，为黄河冲击平原，土层厚、土质好。
2019年2月，汶上县辖3个街道、12个乡镇和1个省级经济开发区：[6-7]中都街道，汶上街道，南站街道，南旺镇，次邱镇，寅寺镇，郭楼镇，康驿镇，苑庄镇，义桥镇，郭仓镇，白石镇，杨店镇，刘楼镇，军屯乡。