в одну сторону с чистым javascript (без jquery) будет
<script type="text/javascript">
function handler()
{
var check = document.getElementById('check');
var query = document.getElementsByName('query')[0];
if(check.checked)
{
query.value = "filename:\"" + query.value + "\"";
}
else
{
query.value = query.value.replace(/^filename:"/, "").replace(/"$/, "");
}
}
</script>
<form>
<input type="text" name="query" />
<input type="checkbox" id="check" onclick="handler()" />box
</form>
это должно работать более или менее, было бы безопаснее, если бы вы дали идентификатору поле ввода запроса, а затем указали его по идентификатору, а не по имени