Η λέξη «σκαρπέλο» αποτελεί αυτολεξεί δάνειο της ομόηχης ιταλικής scarpello ή scalpello της οποίας η αντίστοιχη ελληνική είναι σμίλη.

Με τη σειρά της η ιταλική «scarpello» άγει την προέλευσή της από τη λατινική «scalpellum» ή «scalprum» η οποία έχει ως αντίστοιχή της την αρχαία ελληνική «κολαπτήρ» η οποία σημαίνει, ομοίως, σμίλη. Μολονότι οι δύο λέξεις έχουν την ίδια σημασία, το σκαρπέλο στην νέα ελληνική συνυφαίνεται με την κατεργασία του ξύλου. Εννοιολογικώς, ταυτίζεται, επίσης, με το καλέμι το οποίο είναι, ουσιαστικώς, ένα σκαρπέλο μικρών διαστάσεων. Το σκαρπέλο χωρίζεται σε δύο μέρη: την ακμή που είναι το εμπρόσθιο μέρος και τη λαβή που είναι το οπίσθιο.