Незначительный человек, у которого нет никакого положения, влияния в обществе.

Слово «мелкий» в этом обороте закономерно и понятно, но почему сошка?

Сохой раньше называли плуг, которым пахали землю. Соха́ — основное орудие земледельца.

Когда крестьянин пахал, он как будто мерил своей сохой землю, передвигаясь из конца в конец поля. Может быть, поэтому сохой стали называть и определённые участки земли, с которых собирали налоги.

Если участок был небольшой, его владельца могли презрительно называть мелкой сошкой.

Существует и другая версия, объясняющая возникновение фразеологизма «мелкая сошка», которая связана с крестьянским обиходом.

В русских северных землях соха́ — это крестьянская община от 3 до 60 дворов. А мелкой сошкой называли очень бедную общину, а затем и её бедных и бесправных обитателей.

Позже мелкой сошкой стали называть и чиновников, занимающих низшее положение в государственной структуре.

У чиновных людей, что покрупнее, были свои дома, а мелкая сошка перебивалась на маленьких квартирах мещанских домов.

Павел Иванович Мельников-Печерский. «На горах»