Если вы имеете в виду использование литерала, вам просто нужно создать двоичную строку:
insert into Files (FileId, FileData) values (1, 0x010203040506)
И у вас будет запись с шестибайтовым значением для поля FileData.
В комментариях вы указываете, что хотите просто указать имя файла, чего вы не можете сделать с SQL Server 2000 (или любой другой известной мне версией).
Вам понадобится хранимая процедура CLR, чтобы сделать это в SQL Server 2005/2008, или расширенная хранимая процедура (но я бы избежал этого любой ценой, если не нужно), которая берет имя файла и затем вставляет данные (или возвращает байтовую строку, но это может быть довольно долго).
Что касается вопроса о возможности получения данных только из SP / запроса, я бы сказал, что ответ - да, потому что, если вы даете SQL Server возможность читать файлы из файловой системы, что вы делаете, когда вы не подключены через Windows Authentication, какой пользователь используется для определения прав? Если вы используете службу как администратор (не дай Бог), то у вас может быть повышение прав, которое не должно быть разрешено.