К середине Второй мировой войны стало ясно, что подразделения спецназа всех воюющих сторон остро нуждаются в бесшумном оружии. Американское Управление стратегических служб (нынешнее ЦРУ), которое курировало деятельность спецслужб, решило использовать в качестве прототипа для одной из своих разработок в том числе и старый добрый арбалет. Так родился компактный армейский арбалет для борьбы с живой силой противника, получивший название Little Joe («Маленький Джо»).
Внешне арбалет был похож на обычный пистолет с рукояткой и спусковым крючком. Он имел габариты 330×203 мм и весил 1200 г. Хотя выстрел и не был абсолютно бесшумным и сопровождался характерным щелком, его можно было легко принять за звук естественного происхождения. Болт, выпущенный из «Маленького Джо» имел начальную скорость более 50 м/с и был в состоянии поразить цель на расстоянии до 30 м. Ресурса тетивы хватало примерно на 100 выстрелов. Плюсом была возможность запускать из одного оружия снаряды различной конструкции. Например, не только противопехотные болты, но и стрелы с осветительными зарядами.
Несмотря на кажущуюся перспективность, арбалет не выдержал конкуренции с шумным огнестрельным оружием. Среди главных минусов оказались низкая скорострельность (всего 5–7 выстрелов в минуту), необходимость длительной перезарядки и невозможность сделать несколько выстрелов подряд. Кроме того, «Маленький Джо» в обращении требовал соблюдения дополнительных мер безопасности и был крайне неудобен в транспортировке. Все это привело к тому, что испытания арбалетов были быстро свернуты, созданные опытные образцы отправлены на склад, а затем и утилизированы. После неудачи с арбалетами американское военное руководство поместило в центр своего внимания разработку и усовершенствование приспособлений для бесшумной стрельбы из огнестрельного оружия.
Как пишет «Российский монитор», сегодня в мире известен единственный экземпляр арбалета «Маленький Джо», причем, находится он не в США, а в Великобритании. В настоящий момент раритет является частью коллекции Королевской оружейной палаты.