Начнём с самого слова "вкус".
По "Этимологическому словарю славянских языков" праславянский глагол *кусити был заимствован из готского 𐌺𐌰𐌿𐍃𐌾𐌰𐌽 [kausjan] - c значением "пробовать (на вкус)". Готский глагол идёт от прагерманского *keusaną ("пробовать, выбирать"), откуда в английском получился "choose" ("выбирать"). Историю последнего можете подробнее изучить на etymonline.
Тот случай, когда французское "choisir" ("выбирать") не первооснова, а тоже наследник германской (франкской) формы. Зато вот уже английское "choice" ("выбор") идёт напрямую от французского "choix" ("выбор"), а не от своего "choose".
Так о чем это мы? Я отвлеклась.
Ах да, какого чёрта слово *кусити не исконно славянское, слышу-слышу. Ну простите. Праиндоевропейская основа, которую вывели, сравнивая латинские, санскритские, греческие и другие слова из этого гнезда, выглядит вот так - *geus. А по закону Гримма у германцев звук [g] превращался в [k].
Например, корень *yewg- у нас дал "иго", а у них "yoke", а корень *gal- у нас стал "голосом", а у них "call".
Как видите, у нас звук [г] оставался звуком [г]. А значит если бы наш глагол развивался у нас от праиндоевропейской основы *geus, корень бы выглядел не как "кус", а как "гус". А раз он "кус", значит мы его подслушали у кого-то, у кого звук оглушался. Кто бы это мог быть? Неужели готы?
Теперь по списку.
Сладкий
Или "солодкий" - если смотреть на древнерусский полногласный вариант
(как "золото - злато", "город - град" и многое другое).
Отсюда, конечно, сразу вспоминается "солодка" ("сладкая"). А если убрать суффикс "к", то и "солод" - намоченные и пророщенные семена злаков, использующиеся для производства кваса, пива и других напитков.
А если мы копнем ещё глубже, то получим слово "соль". Вот так вот, в русском языке "сладкий" и "соленый" - однокоренные слова.
Горький
В этом прилагательном тот же корень, что и в словах "гореть", и "горе", и "огорчение". Получается, что это тот вкус, что жжётся. Наверное, сейчас мы бы так сказали скорее про острый вкус, но наши предки рассудили иначе. Горький - жжёт, а острый, получается, колет или режет.
Да и горе по их мнению жжёт. Видимо, когда ещё не было принято говорить о чувствах, язык уже сформировался, и к моменту появления потребности в их описании, почему-то новые корни уже не создавали, и пришлось выбирать какой-то из существующих.
"Что-то жжёт внутри... горит будто... вот же горе!"
А вот "огорчение" уже от вкуса идёт, с палатализацией "к\ч". "Что-то горько мне".
Кислый
А этот корень делает великолепное чередование и образует слово "квас". Глагол когда-то выглядел как "кисати", ещё раньше как "кысати" (именно это [ы] "спасло" его от палатализации "к\ч".
Ну и вот это вот всё сюда - "кисель", "закваска", "скисать", "откисать"...
П.С. Кстати, любопытно, что три вкуса можно использовать для описания других эмоций ("горькое чувство", "сладкий голос", "кислый взгляд"), а "соленый" - как будто нет. Это только вкус. Или я ошибаюсь?)