Вам не нужно иметь ссылку app.bin с libshared_dependent.so.
Тем не менее, компоновщик захочет проверить символы в libshared.so, поэтому он должен найти libshared_dependent.so, чтобы сделать это. Если libshared_dependent.so находится в другом каталоге, чем libshared.so, вы можете указать путь к libshared_dependent.so, используя опцию компоновщика -rpath-link.
Поскольку -rpath-link является опцией компоновщика, вам нужно указать gcc передать его компоновщику:
gcc -Wl,-rpath-link,/directory-that-libshared_dependent-is-in