Мы используем файлы cookie.
Продолжая использовать сайт, вы даете свое согласие на работу с этими файлами.
SAMtools
Другие языки:

SAMtools

Подписчиков: 0, рейтинг: 0
SAMtools
Тип Биоинформатика
Автор Хэн Ли
Разработчики Джон Маршалл, Петр Данечек
Написана на Си
Операционная система UNIX
Первый выпуск 2009
Последняя версия 1.9 (2018-07-19)
Репозиторий github.com/samtools/samt…
Читаемые форматы файлов Sequence Alignment/Map, FASTA, Variant Call Format
Создаваемые форматы файлов Sequence Alignment/Map
Лицензия MIT
Сайт htslib.org

SAMtools — это набор утилит для обработки коротких фрагментов секвенированной ДНК в форматах SAM или BAM. Автор SAMtools — китайский биоинформатик Хэн Ли, который является также автором спецификаций форматов SAM и BAM. В настоящее время ведущими разработчиками SAMtools являются Петр Данечек (чеш. Petr Daněček) и Джон Маршалл (англ. John Marshall).

Предпосылки создания

С появлением новых технологий секвенирования, таких как Illumina/Solexa, AB/SOLiD и Roche/454, было разработано множество новых инструментов выравнивания с целью реализовать эффективное картирование чтений на большие референсныепоследовательности, включая геном человека. Однако, эти инструменты генерируют выравнивания в разных форматах, что усложняет последующую обработку. Общий формат выравнивания, который поддерживает все типы последовательностей и инструменты для их выравнивания, создает четко определенный переход от выравнивания к последующему анализу, включающему поиск мутаций, генотипирование и сборку генома.

Формат Sequence Alignment/Map (SAM) предназначен для достижения этой цели. Он поддерживает одиночные и парные чтения, а также может комбинировать чтения разных типов, включая чтения цветового пространства AB/SOLiD. Этот формат предназначен для сведения в выравнивание наборов из 1011 или более пар оснований, что характерно для глубокого ресеквенирования одного человека.

SAMtools разработан специально для обработки выравниваний в формате SAM/BAM. Он может конвертировать из других форматов выравнивания, сортировать и объединять выравнивания, удалять дубликаты PCR, генерировать информацию по позициям в формате pileup, коллировать SNP и варианты коротких инделей, а также отображать выравнивания в текстовом средстве просмотра.

Принцип работы

SAMtools предназначен для работы с потоком данных. Каждая программа вызывается отдельной командой, принимает входной файл через стандартный поток ввода (stdin) и возвращает результат через стандартный поток вывода (stdout). Предупреждения и сообщения об ошибках выводятся в стандартный поток ошибок (stderr). Команды samtools могут быть скомбинированы в конвейеры с другими Unix-командами.

По умолчанию поток вывода направляется на экран. Так как он может быть громоздким и сложным, используется перенаправление вывода в файл (> и >>) или следующей команде в конвейере (|).

SAMtools также может открывать файлы BAM (но не SAM!) через FTP или HTTP.

SAMtools написан на C и может быть использован через API. Существуют обёртки для других языков программирования:

Стоит отметить, что существуют независимые программы для работы с форматами SAM и BAM, написанные на других языках:

Форматы SAM, BAM и CRAM

Формат BAM (англ. Binary Alignment Map) представляет собой бинарный эквивалент SAM. BAM занимает меньше места и позволяет быстрее работать с информацией, чем SAM. Однако только файлы SAM доступны для чтения как текстовые файлы. SAMtools позволяет эффективно работать с форматом BAM и извлекать необходимую информацию в человекочитаемом формате.

Файлы формата CRAM являются ещё более эффективными с точки зрения занимаемого дискового пространства, чем файлы BAM. В CRAM-файл хранятся отличия прочтений от референсной последовательности, поэтому для работы с ним необходимо наличие файла с референсным геномом. Спецификация формата разработана в Европейском институте биоинформатики. SAMtools позволяет выполнять конвертацию между форматами SAM, BAM и CRAM.

Формат SAM (англ. Sequence Alignment Map) — это текстовый формат для хранения биологических последовательностей, выровненных по эталонной последовательности, также называемой референсной. Этот формат широко используется для хранения таких данных, как фрагменты нуклеотидных последовательностей (иначе называемых чтениями, прочтениями или ридами), полученные с помощью технологии секвенирования нового поколения. Чаще всего SAM получают в результате картирования прочтений из файла FASTQ на последовательность референсного генома. Формат поддерживает короткие и длинные чтения (до 128 Mbp) и может включать одно или несколько выравниваний. Одно выравнивание состоит из нескольких строк, каждая из которых — выравнивание одного фрагмента.

SAM-файл может содержать заголовок, строки которого всегда начинаются с символа «@», за которым следует один из двухбуквенных кодов типа заголовка. В заголовке каждая строка разделена символом табуляции, и, кроме строк @CO, каждое поле данных соответствует формату тэг: значение, где тэг представляет собой двухсимвольную строку, которая определяет формат и содержимое значения. Ниже кратко описаны типы заголовка, которые могут быть использованы в файле.

Тип заголовка Описание
@HD Строка заголовка. Это первая строка, если она присутствует. Обязательно содержит данные о версии формата, может содержать информацию о сортировке выравниваний в файле (если их несколько) и их группировке.
@SQ Словарь референсных последовательностей. Порядок строк @SQ определяет порядок сортировки выравнивания. Обязательно содержит имя референсной последовательности и ее длину. Также может включать альтернативные имена последовательностей, описание, особенности последовательности и проч.
@RG Группа чтений. Разрешены несколько неупорядоченных строк @RG. Обязательно содержит уникальный идентификатор группы. Может содержать описание, дату получения группы и программы, использованные при этом, название образца во время секвенирования и проч.
@PG Использованная при запуске программа. Обязательно содержит уникальный идентификатор записи программы. Может содержать название программы, текст команды, описание и версию программы.
@CO Однострочный текстовый комментарий. Разрешены несколько неупорядоченных строк @CO.

Под заголовком находится раздел выравнивания. Он имеет 11 обязательных полей, содержащих такую информацию, как позиция и качество выравнивания, направление прочтения, указание на парное прочтение и др. Кроме того, возможно указание ряда опциональных полей в виде тэг: тип: значение.

Спецификацию формата SAM можно найти в репозитории SAMtools или в официальной документации формата. Ниже рассмотрена часть выравнивания в формате SAM с описанием полей.

r001   99 ref  7 30 8M2I4M1D3M = 37  39 TTAGATAAAGGATACTG *
r001  147 ref 37 30 9M         =  7 -39 CAGCGGCAT         * NM:i:1
Номер поля Название поля Комментарий
1 Название рида Одинаковые названия даются ридам, прочитанным по одной матрице, например парным ридам.
2 Флаг Представляет собой комбинацию нескольких бинарных флагов, обозначающих парность, картированность и т. д. Так, флаг 99 (в шестнадцатеричной системе — 0x63) является комбинацией битов 0x1, 0x2, 0x20 и 0x40, что в совокупности даёт следующую информацию о прочтении: это первый рид из пары, для каждого рида пары есть выравнивание, пара данного рида — в обратной ориентации.
3 Название референса Название референса должно присутствовать в одной из строк заголовка, начинающихся с @SQ, если такие строки в файле присутствуют.
4 Самая левая позиция выравнивания Позиция в референсе, которой соответствует начало прочтения. Позиции в референсе нумеруются с 1. Для некартированного рида значение этого поля, как правило, равно нулю. (Спецификация формата, однако, допускает отличное от нуля значение для некартированного рида, что может быть полезным, например, при сортировке ридов по координате.)
5 MAPQ По определению, значение MAPQ равно −10 log10 P, округлённому до целого числа, где P есть вероятность того, что выравнивание неверно. Так, если MAPQ = 30, то P = 0,001.
6 CIGAR Описание выравнивания, в записи которого используется набор операций (совпадение, инсерция и др.). Например, строка 8M2I4M1D3M означает: 8 совпадений с референсом, 2 инсерции, 4 совпадения, 1 делеция, 3 совпадения.
7 Название референса пары Название референса для пары должно присутствовать в одной из строк заголовка, начинающихся с @SQ, если такие строки в файле присутствуют. Если референс пары совпадает с референсом данного рида, то значение поля равно =, а при отсутствии информации о референсе пары — * (например, прочтение может быть одиночным).
8 Начало выравнивания пары Позиция в референсе, которой соответствует начало пары. Аналогично четвёртому полю.
9 Расстояние между крайними точками выравнивания Максимальное расстояние по референсу. При этом в случае парного выравнивания это значение положительное для левого (по референсу) рида и отрицательное для правого. Для одиночных прочтений значение равно нулю.
10 Последовательность рида Регистр букв не имеет значения.
11 Качество Может записываться в формате Phred+33. Если информация отсутствует, то указывается знак *.

Поле флаг представляет собой комбинацию нескольких бинарных флагов. Если чтение имеет пару, то по этой комбинации можно однозначно восстановить флаг спаренного с ним чтения и, как следствие, сведения о нем. Полный список флагов со значениями представлен в таблице ниже.

Флаг Описание
110 ≡ 116 Чтение имеет пару
210 ≡ 216 Чтение картировано в правильную пару
410 ≡ 416 Чтение не картировано
810 ≡ 816 Пара чтения не картирована
1610 ≡ 1016 Чтение в обратной ориентации
3210 ≡ 2016 Пара чтения в обратной ориентации
6410 ≡ 4016 Первое чтение в паре
12810 ≡ 8016 Второе чтение в паре
25610 ≡ 10016 Выравнивание не является первичным
51210 ≡ 20016 Чтение не прошло контроль качества
102410 ≡ 40016 Чтение является оптическим или ПЦР-дубликатом
204810 ≡ 80016 Это выравнивание дополнительное

Таким образом, наиболее часто встречающиеся флаги группируются по главным значениям:

  • одно из чтений в паре некартировано: 73, 133, 89, 121, 165, 181, 101, 117, 153, 185, 69, 137;
  • оба чтения некартированы: 77, 141;
  • чтения картированы в пределах размера вставки и в правильной ориентации: 99, 147, 83, 163;
  • чтения картированы в пределах размера вставки, но в неправильной ориентации: 67, 131, 115, 179;
  • чтения картированы однозначно, но с неверным размером вставки: 81 , 161 , 97 , 145 , 65 , 129 , 113 , 177.

Опциональные поля должны соответствовать формату двухбуквенный тэг: тип: значение. Например, NH:i:1 указывает число выравниваний в файле для данного прочтения как целочисленную величину, равную единице. Некоторые другие распространённые теги:

  • AS — вес (score) выравнивания, рассчитанный программой-картировщиком;
  • NM — редакционное расстояние от прочтения до референса;
  • MD — строка с информацией о невыровненных позициях; например, 10A5^AC6’ означает 10 совпадений с референсом → A в референсе, отличное от нуклеотида в соответствующей позиции прочтения → 5 совпадений → делеция (отсутствие в прочтении) двух нуклеотидов — AC → 6 совпадений;
  • CC — название референса для «следующего» выравнивания («хита») — для случая неуникального выравнивания;
  • CP — координата крайней левой позиции для «следующего» выравнивания («хита»);
  • HI — индекс выравнивания («хита») для данного прочтения.

Опциональные поля, тэги которых начинаются с X, Y или Z, зарезервированы для использования различными программами и непосредственно пользователями. Часто эти поля генерируются с помощью BWAtools, и наиболее часто встречающиеся такие тэги можно посмотреть в спецификации BWAtools, а также в спецификации дополнительных полей формата SAM.

Команды SAMtools

Вызов команд осуществляется в виде «samtools название_команды». Далее указываются опции вызова и необходимые файлы (если файл не был передан через конвейер). В качестве примера можно привести команду, конвертирующую файл формата SAM в формат BAM: samtools view -bS sample.sam > sample.bam, где view является командой, -bS — опциями, а sample.sam и sample.bam задают файлы в соответствующих форматах.

Список команд SAMtools представлен ниже.

bedcov Команда bedcov сообщает общее число считанных оснований для каждой области генома, указанной в прилагаемом файле BED.
cat cat позволяет быстро объединять BAM- и CRAM- файлы, порядок записей во входных файлах сохраняется.
calmd Команда calmd дополняет записи входного файла тэгом MD, в котором содержится информация о полиморфизмах и инделах.
depth Высчитывает глубину каждой позиции или региона.
dict Создает словарь последовательностей из fasta-файла.
faidx faidx индексирует входной FASTA-файл и создает индекс-файл fasta.fai. Команду можно применять как для полной последовательности, так и для заданного региона. Все последовательности во входном файле должны иметь разные имена, иначе индексирование выдаст предупреждение о повторяющихся последовательностях и при извлечении будут получены только подпоследовательности из первой последовательности с дублированным именем.
Например, если в заголовке SAM-файла не указано, по какой последовательности проводилось выравнивание (поле @SQ), можно дополнить файл этой информацией.
Интересно, что при вызове команды view с опцией -T и указанием неиндексированного fastq-файла, соответствующий индекс будет сгенерирован автоматически.
fastq/fasta Конвертирует файл формата BAM или CRAM в файл формата FASTQ или FASTA (в зависимости от того, какая из команд была использована). Используется начиная с версии SAMtools 1.3, до этого для конвертации файла формата BAM в формат FASTQ использовалась команда bam2fq.
fixmate fixmate позволяет дополнять файл с парными прочтениями: заполняет координаты соответствующих пар, добавляет тэг ISIZE (отвечает за расстояние между двумя парами) и другие тэги, отвечающие за информацию о парах. С помощью опции -r можно удалять пары со вторичными и некартированными прочтениями.
flags flags конвертирует флаги картирования из численного в текстовое представление и наоборот.
flagstat Выдает статистику по 13 категориям для файла, поданного на вход команде, работая с полем FLAG. Для каждой категории в выходной файл записывается число прошедших и не прошедших QC (quality control) ридов. Общее число ридов, прошедших и не прошедших QC, записывается в первой строчке выходного файла. Если выходной файл не указан, информация выдается в stdout.
fqidx Команда fqidx индексирует входной FASTQ-файл (или извлекает из него подпоследовательность) и создает индекс-файл fasta.fai. Команду можно применять как для полной последовательности, так и для заданного региона.
Используется только для файлов с небольшим числом записей. Использование данной команды в файле, содержащем миллионы коротких чтений, приведет к тому, что индекс может стать таким же большим, как и исходный файл, а поиск с использованием индекса будет очень медленным и потребует много памяти.
idxstats idxstats выводит короткую аннотацию по входному BAM-файлу в формате значений, разделённых табуляций (TSV). В аннотации содержится информация о названиях референсных последовательностей, их длинах, количестве картированных и некартированных ридов.
Важно, что для использования этой команды входной файл должен быть отсортирован и индексирован с помощью команды SAMtools index.
index Команда index формирует индекс-файл на основе отсортированного BAM или CRAM файла. Индекс-файл имеет формат .cram.crai для CRAM и .bam.bai или .bam.csi для BAM. Index позволяет быстрее работать командам view и tview в случае, если требуется извлечь какой-то регион из ассоциированного файла. Некоторые команды SAMtools требуют обязательного индексирования файлов (например, idxstats).
merge merge объединяет несколько отсортированных файлов BAM в один выходной файл, также отсортированный. Если заголовки исходных файлов отличаются, merge формирует новый, обобщённый. Если в файлах присутствуют записи в одинаковыми ID, по умолчанию к ним добавляется суффикс, позволяющий их различить.
mpileup mpileup принимает на вход один или несколько BAM-файлов и генерирует форматы pileup, en:VCF или его бинарный вариант BCF. Они предназначены для хранения или поиска однонуклеотидных полиморфизмов и инделов (вставок или делеций).
В формате pileup каждая строка представляет одну геномную позицию и содержит информацию о её покрытии, нуклеотидном составе, качестве выравнивания и других характеристиках. В формате VCF (или BCF) хранится информация только о позициях, измененных по сравнению с референсным геномом.
phase Команда phase позволяет находить и фазировать гетерозиготные однонуклеотидные полиморфизмы.
sort sort сортирует прочтения во входном файле, при использовании опции -o записывает результат в файл. По умолчанию сортировка производится по левой координате прочтений (то есть по первой координате прочтений на прямой цепи и по второй координате прочтений на обратной цепи). С использованием опции -n возможна сортировка картирований по имени.
Сортировка требует больших затрат памяти, поэтому для экономии ресурсов программа записывает промежуточные BAM-файлы. По умолчанию максимальной памятью на один поток выполнения является 768 MiB. С помощью опции -m можно менять этот порог, а с помощью -@ можно увеличивать количество потоков.
В настоящее время при использовании команды явно указывают префикс для временных файлов (-T) и выходной файл (-o), однако до сих пор часто встречается устаревшая форма использования. В ней после названия входного файла обязательно указывается префикс для выходного файла и временных файлов. Например, команда принимает на вход файл unsorted_in.bam, записывает промежуточные файлы вида sorted_out.%d.out (%d обозначает номер временного файла) и записывает результирующий файл sorted_out.bam.
split Разбивает файл по группе чтений.
stats Собирает статистику из файлов формата BAM и предоставляет выходной файл в текстовом формате. Выдача может быть визуализирована графически при помощи plot-bamstats.
reheader Команда reheader предназначена для переименования заголовка входного BAM на заголовок другого входного SAM-файла. Такая команда работает быстрее, чем конвертация BAM→ SAM → BAM.
tview tview вызывает интерактивный консольный текстовый просмотрщик. Он позволяет просматривать выравнивание картирований на небольшой фрагмент референсного генома. С помощью клавиши ‘g’ можно перемещаться на разные позиции выравнивания. ‘?’ вызывает помощник с перечислением возможных горячих клавиш.
view Команда view позволяет проводить различные операции с форматами SAM, BAM и CRAM. Например, можно конвертировать файл из одного формата в другой, фильтровать по региону, качеству или тэгу, просматривать содержимое через stdout.

Литература



Новое сообщение