洛阳邙山一带虽然古墓分布稠密，但对盗墓者来说，也并非唾手可得。由于年代久远，加之长期的雨水冲刷及平耕土地，除个别大墓保留有封土堆外，绝大多数在地面上已难看到任何痕迹，盲目的挖掘不仅效率低，而且往往会一无所获。若要找到古墓的准确位置，就必须在现代耕土或挠土层下找到墓道或墓口。最初盗墓贼是用厚实锐利的铁锨在地上挖出方形洞穴，以锨头带出来的土来找墓，这种方法很费力，铁锨经常带不上来土，也不能探得很深。到20世纪20年代，随着墓中古物价格高涨，盗掘之风愈刮愈烈。利益驱使之下，洛阳盗墓者挖掘古墓的技巧也越来越精，洛阳铲就是在这个时期应运而生的。
据传1923年前后，马坡村村民李鸭子到孟津赶集，他看到商家在搭帐子固定四角时，用一种铲子戳洞扎杆，这种工具既锋利又能把土带出来，受此启发，他将之加以改进后，打造出用来盗墓的铲子，由于这种铲子首先在洛阳地区使用，人们遂称之为“洛阳铲”。
洛阳铲为半圆形的铲子，由铲头、铁把、蜡杆、绳子等组成。随着盗墓经验的积累，一些盗墓贼逐渐掌握了辨别土色土质的能力，他们利用洛阳铲插入土层带上来的泥土，对土壤结构、颜色和包含物进行简单分析判断后，就可确定地下有无古墓。洛阳铲制作工艺复杂，制造一把小铲只能手工打制，整个过程需要经过制坯、煅烧、热处理、成型、磨刃等近20道工序。随着时代发展，新铲在旧铲的基础上进行了改进，铲头后部接的木杆改用螺纹钢管，半米上下，可层层相套，随意延长，平时拆、装和携带都十分方便。
洛阳铲发明后不久，就引起了考古学家的兴趣和重视，著名的考古学家卫聚贤在1928年编写的《中国考古学》一书中，开始将洛阳铲在考古界进行推广。考古工作者使用的洛阳铲，被称为探铲。中国著名的殷墟、偃师商城等一座座古城址的发掘中，洛阳铲都发挥了重要作用。如今，洛阳铲已成为考古工作者的利器，学会使用洛阳铲来辨别土质，是每一名考古工作者需要掌握的基本功，洛阳铲已成为了中国考古钻探工具的象征。
神奇的洛阳铲还是建筑业必不可少的工具，它能为工人准确地打出各种尺寸的探孔，再灌注水泥和钢筋，形成坚固的灌注桩，支撑着各种各样的建筑以及公路、铁路的路基。洛阳铲一个著名的记录是：洛阳探工用洛阳铲为宜洛煤矿成功地打过百米深孔。当然，洛阳铲也不是万能的，一般的砖、瓦可以穿过，但遇到石块就无法穿过了，因此，洛阳铲比较适合土层深厚的平原地区。
“洛阳铲”是考古工作中用来探测地下古墓位置，基建中用来探测地层的一种轻便的探测工具。其构造有二种：一种为下端只具有一个瓦状的铲头，弧度约成半圆，直径7厘米左右，铲头长10—20厘米，铲的后端稍厚，前端为半月形铲刃；铲肩上有铁柄，上端有筒状铲裤，可安装木把，总长近三米；木把上可刻上尺寸，随时检查探测深度。另一种铲的上部与第一种基本相同，只是把铲刃前端改进成合抱形式，称为套铲。“洛阳铲”操作方便，少伤地层，成本低。工作效率高，具有从地下含出“原本”的功能。由于“洛阳铲”是在洛阳创造的，又首先被洛阳地区采用，因而得名。
